2 -бөлім. Google AutoML көмегімен ThinkBioT моделі: 8 қадам

2024 Автор: John Day | [email protected]. Соңғы өзгертілген: 2024-01-30 10:24

ThinkBioT Edge TPU үйлесімді TensorFlow Lite модельдерімен «Plug and Play» болуға арналған.

Бұл құжаттамада біз спектрограммалар құруды, деректерді пішімдеуді және Google AutoML қолдануды қарастырамыз.

Бұл оқулықтағы код bash түрінде жазылады, сондықтан көп платформалы үйлесімді болады.

Тәуелділіктер

• Бірақ бастамас бұрын Windows, Mac және Linux құрылғыларымен үйлесімді Sox пәрмен жолы аудио бағдарламасын орнату қажет болады.
• Егер сіз Windows құрылғысында болсаңыз, bash сценарийлерін іске қосудың ең оңай жолы - Git, сондықтан мен оны пайдалы болар еді деп жүктеп, орнатуды ұсынар едім,
• Кодты өңдеу үшін сүйікті редакторды пайдаланыңыз немесе Windows үшін NotePad ++ немесе басқа операциялық жүйелер үшін Atom орнатыңыз.

** Егер сізде бұрыннан бар TensorFlow моделі болса немесе бар модельмен оқытуды ауыстырғыңыз келсе, Google Coral Documentation бөлімін қараңыз.

1 -қадам: Google бұлтты сақтау шелегін орнатыңыз

1. Gmail есептік жазбаңызға кіріңіз (немесе егер сізде Google есептік жазбасы болмаса)

2. Жобаны таңдау бетіне өтіп, сізге модельдік және спектрограммалық файлдар үшін жаңа жоба жасаңыз. Әрі қарай жүру үшін сізге төлемді қосу қажет.

3. https://cloud.google.com/storage/ сайтына кіріп, беттің жоғарғы жағындағы шелек жасау түймесін басыңыз.

4. Қажетті шелек атауын енгізіңіз және әдепкі параметрлерді қабылдайтын шелек жасаңыз.

2 -қадам: Деректеріңізді форматтаңыз және Csv Dataset жасаңыз

Мен сіздің модельді құру үшін қажет datat.csv файлын жасау үшін пайдалы сценарий жасадым. Деректер файлы сіздің шелектегі суреттерді деректер жиынтығындағы белгілермен байланыстырады.

1. ThinkBioT репозиторийін GitHub және

2. Tools каталогындағы tbt_spect_example.sh файлын жұмыс үстеліндегі жаңа қалтаға көшіріңіз.

3. Үлгіңізде қолданғыңыз келетін аудио файлдарды қосыңыз, оларды белгісі бар қалталарға салыңыз (яғни оларды сұрыптауды қалайсыз. Мысалы, егер сіз иттерді немесе мысықтарды анықтағыңыз келсе, сізде қалта болуы мүмкін) ит, қабық дыбысы бар НЕМЕСЕ мысық дыбысы бар мысық папкасы т.б.

4. Notepad ++ көмегімен tbt_spect_example.sh ашыңыз және 54 -жолдағы «yourbucknamename» дегенді Google сақтау шелегінің атымен ауыстырыңыз. Мысалы, егер сіздің шелек myModelBucket деп аталса, желі өзгереді

шелек = «gs: // myModelBucket/spectro-data/»

5. Bash терминалында келесіні теру арқылы кодты іске қосыңыз, ол код жұмыс істейді және сіздің csv файлын және спектро-деректер деп аталатын каталогты үстелдің үстіңгі жағында спектрограммалармен жасайды.

sh tbt_spect_example.sh

3 -қадам: Спектрограммаларды шелекке жүктеңіз

Google Storage -ке жүктеудің бірнеше жолы бар, ең оңай - қалтаны тікелей жүктеу;

1. Google Storage бетіндегі шелектің атын басыңыз.

2. «ҚАЛТАРДЫ ЖҮКТЕУ» батырмасын таңдап, соңғы қадамда жасалған «спектро-деректер/» каталогын таңдаңыз.

НЕМЕСЕ

2. Егер сізде үлкен көлемдегі файлдар болса, «CREATE FOLDER» пәрменін таңдау арқылы «спектро-деректер/» каталогын қолмен құрыңыз, содан кейін қалтаға өтіп, «FILES ЖҮКТЕУ» пәрменін таңдаңыз. Бұл үлкен деректер жиынтығы үшін тамаша нұсқа болуы мүмкін, себебі сіз спектрограммаларды бөлімдерге жүктей аласыз, тіпті жүктеу жылдамдығын арттыру үшін бірнеше компьютерді қолдана аласыз.

НЕМЕСЕ

2. Егер сіз озық пайдаланушы болсаңыз, Google Cloud Shell арқылы жүктей аласыз;

gsutil cp spectro-data/* gs: // your-bucket-name/spectro-data/

Енді сізде өте әдемі спектрограммаларға толы шелек болуы керек!

4 -қадам: Dataset Csv файлын жүктеңіз

Енді бізге model-labels.csv файлын Google Storage-дегі «spectro-data/» каталогына жүктеу керек, ол негізінен соңғы қадаммен бірдей, сіз көп файлдың орнына бір файлды жүктеп жатырсыз.

1. Google Storage бетіндегі шелектің атын басыңыз.

2. «ЖҮКТЕУ ФАЙЛЫН» батырмасын таңдап, бұрын жасаған model-labels.csv файлыңызды таңдаңыз.

5 -қадам: Деректер жиынтығын жасаңыз

1. Алдымен сізге AutoML VIsion API табу керек, бұл біршама қиын болуы мүмкін! Ең оңай жолы - Google бұлт қоймасының іздеу жолағында «automl vision» іздеу (суретте).

2. API сілтемесін басқаннан кейін сізге API қосу қажет болады.

3. Енді сіз AutoML Vision бақылау тақтасында боласыз (суретте), жаңа деректер жиынының батырмасын шертіңіз және Жалғыз жапсырманы және 'CSV файлын таңдау' опциясын таңдаңыз. Содан кейін сіз сақтау шелегіне model-labels.csv файлының сілтемесін қосасыз. Егер сіз бұл оқулықты орындасаңыз, ол төмендегідей болады

gs: //yourBucketName/spectro-data/model-labelsBal.csv

4. Содан кейін деректер жиынтығын жасау үшін жалғастыру түймесін басыңыз. Жасауға біраз уақыт кетуі мүмкін.

6 -қадам: AutoML үлгісін жасаңыз

Электрондық поштаны алғаннан кейін, сіз өзіңіздің деректер жиынтығыңыздың жасалғанын білесіз, сіз өзіңіздің жаңа моделіңізді жасауға дайынсыз.

1. TRAIN түймесін басыңыз
2. Модель түрін таңдаңыз: Edge және Model кідірісін бағалау: Edge TPU және басқа опцияларды бастапқыда әдепкі бойынша қалдырыңыз, бірақ кейінірек тәжірибе жасау қажет болуы мүмкін.
3. Енді сіздің моделіңіз жаттығады, біраз уақыт кетеді және жүктеуге дайын болғанда сізге электрондық хат келеді.

Ескерту: Егер сіз жаттығу батырмасы қол жетімді болмаса, сізде деректер жиынтығымен мәселелер туындауы мүмкін. Егер сізде әр сыныптың 10 белгісі (белгісі) аз болса, жүйе сізге модельді оқытуға рұқсат бермейді, сондықтан сізге қосымша кескіндерді қосу қажет болуы мүмкін. Егер сізге түсініктеме қажет болса, Google AutoML бейнесін қарау керек.

7 -қадам: Үлгіні тексеріңіз

Үлгінің аяқталуы туралы электрондық поштаны алғаннан кейін AutoML Vision API -ге қайту үшін сілтемені басыңыз.

1. Енді сіз өзіңіздің нәтижелеріңізді және модельдің шатасу матрицасын қарай аласыз.

2. Келесі қадам - сіздің Модельді тексеру, 'TEST & USE' немесе 'PREDICT' бөліміне өтіңіз, таңқаларлық 2 пайдаланушы GUI бар сияқты, мен екеуін де суреттедім, бірақ екеуінің де функционалдығы бірдей.

3. Енді сіз тест спектрограммасын жүктей аласыз. Бір спектрограмманы жасау үшін ThinkBioT Github бағдарламасынан tbt_make_one_spect.sh бағдарламасын қолдануға болады. Оны спектрограммаға айналдырғыңыз келетін wav бар қалтаға қойыңыз, Git Bash терезесін (немесе терминалын) ашыңыз және файл атыңызды ауыстыра отырып, төмендегі кодты қолданыңыз.

sh tbt_make_one_spect.sh сіздің WavName.wav

4. Енді спектрограмманы жүктеп, нәтижеңізді тексеріңіз!

8 -қадам: Үлгіні ThinkBioT -ке орнатыңыз

Жаңа жылтыр модельді пайдалану үшін модель мен txt файлын CModel қалтасына тастаңыз;

pi> ThinkBioT> ClassProcess> CModel

Енді сіз ThinkBioT қолдануға дайынсыз:)

** ЕСКЕРТПЕ ** Егер сіз модельді ThinkBioT шеңберінен тыс пайдалансаңыз, сіз өзіңіздің этикеткалық құжатты әр жолдың басына сандар қосу үшін өңдеуіңіз қажет болады, себебі соңғы «оқу белгілерінің» кіріктірілген tflite аудармашыларының функциясы олар бар деп есептейді. Мен ThinkBioT framework classify_spect.py -де реттелетін функцияны өз кодыңызда қолдануға болатын жұмыс ретінде жаздым:)

def ReadLabelFile (file_path):

есептегіш = 0 ашық (file_path, 'r', кодтау = 'utf-8') f сияқты: жолдар = f.readlines () ret = {} жолдардағы жолдар үшін: ret [int (counter)] = line.strip () есептегіш = есептегіш + 1 қайтару реті