Искусственный интеллект изобретает собственные языки, непонятные людям

Исследователи из Facebook поняли, что их боты искусственного интеллекта «общаются» на новом, неизвестном людям языке. В результате работа этих ботов была остановлена.

«Разговор» произошел между двумя агентами искусственного интеллекта, разработанными внутри Facebook. Сначала они разговаривали друг с другом на простом английском языке. Но затем исследователи поняли, что боты начали использовать, на первый взгляд, полный вздор, на самом же деле – собственный язык. Программное обеспечение для переговоров научилось работать с большей скоростью и эффективностью и, возможно, скрытыми намерениями.

Поскольку эти два агента ИИ конкурировали, и ученые назвали это «генеративной состязательной сетью», то начали расходиться с обычным английским, в конечном итоге — переставлять разборчивые слова в кажущиеся бессмысленными предложения. «Агенты будут изменять понятный язык и изобретать кодовые слова для себя», — говорит Дхрув Батра (Dhruv Batra), приглашенный научный сотрудник из технологического института Джорджии в Facebook AI Research (FAIR).

По сути, агенты ИИ пришли к тому же, к чему и люди – использовать жаргон и сокращения в определенной сфере, как, например, торговля на бирже или охота на террористов. Таким образом, машины могут общаться, понимая друг друга, но люди не смогут их понять.

Источник: AmericaRU



Все последние новости Украины сегодня и новости дня в мире на News UA