Компания искусственного интеллекта ElevenLabs предлагает людям с нарушениями речи сервис клонирования голоса для того, чтобы они могли продолжать общаться. Однако клиенты жалуются, что их банят за неподобающие повседневные выражения, например, за слово «задница».
Люди с заболеваниями мотонейронов, которые отвечают за моторную координацию и поддержание мышечного тонуса, при прогрессировании болезни теряют возможность двигаться и общаться, а со временем даже теряют возможность глотать. Такие компании, как ElevenLabs, предлагают им ИИ-инструменты, которые позволяют клонировать голос, используя старые записи. В итоге пациенты получают возможность «говорить» своими голосами, печатая предложения на устройствах, либо выбирая буквы рукой или взглядом.
За последние пару недель сразу несколько таких пациентов пожаловались на блокировку. Среди них оказались Джойс Эссер, которая живет в Великобритании. Она пока ещё может двигаться, но лишена голоса.
Джойс отмечает, что нечасто использует свой голосовой клон, так как считает его непрактичным для повседневных разговоров из-за медленной скорости работы. Однако женщине нравится слышать свой старый голос, и иногда она всё же прибегает к нему. В одной из таких ситуаций Джойс ждала своего мужа Пола, пока тот собирался. Она в шутку набрала сообщение: «Давай, дорогой, шевели задницей!!». На следующий день она получила предупреждение от ElevenLabs о том, что использует ненормативную лексику и не должна делать этого снова. Однако Джойс так и не поняла, что именно компания посчитала ненормативной лексикой. Женщина предположила, что одно из слов было автоматически отмечено как нецензурное «чопорным американским компьютером», но при прохождении модерации с участием человека компания отменит предупреждение. Однако этого не случилось, а на следующий день пользовательницу забанили. «Я только что вернула себе голос, а теперь они его у меня отняли... и всего через два дня после того, как я сделала презентацию для местной группы MND (Motor neurone disease), рассказав им, насколько замечательна ElevenLabs», — пожаловалась Джойс..
Джойс связалась с ElevenLabs, а компания извинилась и восстановила её учетную запись. Но там так и не смогли объяснить, что конкретно послужило причиной для бана. Представитель компании София Ноэль переадресовала журналистов к политике компании в отношении запрещённого использования ИИ. Она содержит правила, запрещающие угрожать безопасности детей, заниматься противоправным поведением, давать медицинские советы, выдавать себя за других, вмешиваться в выборы и многое другое. Однако в правилах нет упоминания о ненормативной лексике. Сама Ноэль предположила, что замечание Джойс, скорее всего, было истолковано как угроза.
Условия использования ElevenLabs гласят, что компания не обязана проверять, редактировать или отслеживать контент, но может «прекратить или приостановить» доступ к своим услугам, когда он «разумно нарушает применимое законодательство или Условия использования». У компании есть инструмент модерации, который проверяет контент на соответствие этим Условиям.
При этом другой клиент компании, Жюль Родригес из Майами, использует ту же технологию, но не получал никаких предупреждений по поводу лексики, хотя часто допускает ругательства, например «Fuck you guys!».
В ElevenLabs подтвердили, что теперь стараются не ограничивать ненормативную лексику.
«Люди, живущие с БАС, должны иметь возможность говорить всё, что у них на уме, даже ругаться. У них есть много поводов для ругательств», — отметил Ричард Кейв из Ассоциации БАС (Бокового амиотрофического склероза) в Великобритании.
В декабре ElevenLabs представила модель синтеза речи Flash, которая способна преобразовывать текст в речь всего за 75 миллисекунд, не включая сетевые и прикладные задержки. Это делает её одной из самых быстрых моделей голосового ИИ на данный момент.
Также компания позволила пользователям создавать полнофункциональных голосовых агентов. При этом задаются основные параметры: язык общения агента, его приветственное сообщение и системный запрос, определяющий характер и стиль общения.
Источник новости: habr.com
