Яндекс показал прототип машинного перевода видео

Яндекс показал прототип машинного перевода видео. Новая технология объединит в себе машинный перевод, технологии биометрии, распознавания и синтеза речи. Благодаря ей пользователи Яндекс.Браузера смогут смотреть ролики на иностранном языке с закадровым переводом. Увидеть, как работает прототип, можно уже сейчас.

«В интернете очень много полезного контента, который недоступен людям из-за языкового барьера. И мы близки к тому, чтобы окончательно стереть все границы. Яндекс.Браузер давно умеет переводить тексты, в этом году стал переводить изображения, перевод видео — следующий этап. Это большая сложная задача, которую никто в мире еще не решил. Мы тоже в начале пути, но у нас уже есть прототип и понимание, куда двигаться дальше», — говорит руководитель направления обработки естественного языка в Яндексе Дэвид Талбот.

Прототип работает только с роликами на английском языке. Разработчики технологии уже опробовали её на видеозаписях на разные темы. Среди них есть видео про изменение климата, машинное обучение, историю Плутона и другие не менее интересные вещи. Посмотреть видео с закадровым переводом пользователи десктопного Яндекс.Браузера могут здесь.

Над созданием прототипа работало несколько команд. Сейчас в нём применяются технология синтеза речи, разработки Яндекс.Переводчика и биометрия. Она позволяет определить пол говорящего и подобрать соответствующий голос. А чтобы закадровый голос совпадал с картинкой, переводчик делает паузы, где-то замедляет, а где-то ускоряет речь. Дело в том, что в оригинале и переводе реплики часто не совпадают по длине, поэтому за темпом речи следит специальный алгоритм.

Работа над прототипом продолжается. Уже скоро пользователи смогут сами выбирать, какие ролики переводить с помощью новой технологии.