Откуда берутся данные: звуковой спутник четвёртой статьи

Четвёртая статья серии — про данные. Распознавалка из второй статьи и голос из третьей на чём-то учились, а готовых данных у нашего языка почти не было. Статья рассказывает, откуда они взялись и сколько в них было подвохов. Здесь четыре примера, которые можно послушать или увидеть.

Две распознавалки согласились

У нас была аудиокнига на несколько часов, а напечатанного текста этого издания я так и не нашёл. Поэтому запись расшифровывала наша распознавалка, а потом её слушала вторая, устроенная совсем по-другому. В корпус попадал только тот кусок, где две расшифровки почти совпали. Две модели, которые ошибаются по-разному, редко ошибаются одинаково.

Кусок из аудиокниги

Старый прогон на этом месте: Menimki öldi, men cenki kettim, saq selamet qaytıp, başıñız sağ olsun, başıñız sağ olsun, başıñız sağ olsun… и так около 50 раз подряд
Сейчас, обе распознавалки: Aydı! Yahşı! Aç olmadı, balam! Toqluqnıñ zararı yoq. Tek içmesin! – dep qoştı Arslanov.

7,6 секунды. Текст машинный: сверить его с книгой нельзя, потому что книги нет. Его можно только послушать.

Это не доказательство правильности: две неправильные модели в принципе могут согласиться. Поэтому спорные куски мы проверяем на слух.

Проверочный текст ошибался

Чтобы понять, стала ли распознавалка лучше, нужны проверочные тексты. Для живой речи их раньше делала сама машина, старая версия распознавалки. Я взял куски, где старая и новая модели расходились, и прослушал их вслепую, не зная, где чья расшифровка. Оказалось, что проверочные тексты ошибались примерно в 15 % слов. Вот три короткие реплики с портала, записанные на обычный микрофон. В каждой ошибался проверочный текст, а новая модель записала то же, что услышал я.

Три реплики с портала

1. Проверочный текст: Aleyküm selâm, sebzeler qidıram. Qaçtan qıyar sized?
1. На слух: Aleykom selâm, sebzelerni qıdıram, qaçtan qıyar sizde?
2. Проверочный текст: Daa ek kilo pomidor berimiz.
2. На слух: Daa eki kilo pomidor beriñiz?
3. Проверочный текст: Çoq sağ oluñız! Qarlı künler sizgede! qarlı künler — «снежные дни»
3. На слух: Çoq sağ oluñız, hayırlı künler sizge de. hayırlı künler — «добрые дни»

13 секунд, три реплики подряд. Новая модель во всех трёх совпала с тем, что услышало ухо.

Пока проверочный текст ошибался, новая модель, которая расходилась со старой, автоматически выглядела хуже. На самом деле она была права заметно чаще.

Один текст, два синтетических голоса

Когда своих записей мало, хочется сделать их самому. У синтезированной записи текст идеальный: мы выбрали его до того, как машина его прочитала. Я добавил в обучение распознавалки синтезированную речь нескольких голосов. Ниже просто иллюстрация того, что это значит: одни и те же два предложения, голос Sevil и мой. Этих записей в обучении не было.

Голос Sevil

«Elbette, analar çeşit türlü olalar, ğamsız, özüni çoq şeylerge sıqmağan, balasınıñ taliyinen meraqlanmağan, amma men bellesem, ana dünyada eñ muqaddes, evlâtqa arqa tiremege tayanç olğan, eñ yaqın sırdaşımız, desem, yañlış olmaz.» Синтез.

Мой голос

Тот же текст, та же модель, другой образец голоса. Синтез.

На экзамене из двух аудиокниг синтетика помогла: ошибок в словах стало 15,7 % вместо 17,0 %. Но на записях, которые ближе к жизни, модель с синтетикой выглядела хуже, и в работу она не пошла.

Наш или турецкий

Однажды наша языковая модель ответила мне «Ayt, men dinlemeye hazırım». По-крымскотатарски надо «Ayt, men diñlemege azırım», то есть «Говори, я готов слушать». Слова почти те же, а форма турецкая. Обычный языковой фильтр такого не видит, поэтому пришлось сделать свои детекторы. Они ищут формы, которых в крымскотатарском не бывает.

Ayt, men diñlemege azırım.

Правильная фраза: сначала голос Sevil, потом мой. Синтез. Турецкий вариант я озвучивать не стал: наш голос не должен говорить по-турецки.

Машины здесь делают черновую работу. А в спорных местах последнее слово остаётся за ухом носителя.

Читать дальше

Полная статья на ana-yurt.com (RU) — ссылка появится после публикации