Исследователи из Facebook поняли, что их боты искусственного интеллекта «общаются» на новом, неизвестном людям языке. В результате работа этих ботов была остановлена.
«Разговор» произошел между двумя агентами искусственного интеллекта, разработанными внутри Facebook. Сначала они разговаривали друг с другом на простом английском языке. Но затем исследователи поняли, что боты начали использовать, на первый взгляд, полный вздор, на самом же деле – собственный язык. Программное обеспечение для переговоров научилось работать с большей скоростью и эффективностью и, возможно, скрытыми намерениями.
Поскольку эти два агента ИИ конкурировали, и ученые назвали это «генеративной состязательной сетью», то начали расходиться с обычным английским, в конечном итоге – переставлять разборчивые слова в кажущиеся бессмысленными предложения. «Агенты будут изменять понятный язык и изобретать кодовые слова для себя», – говорит Дхрув Батра (Dhruv Batra), приглашенный научный сотрудник из технологического института Джорджии в Facebook AI Research (FAIR).
По сути, агенты ИИ пришли к тому же, к чему и люди – использовать жаргон и сокращения в определенной сфере, как, например, торговля на бирже или охота на террористов. Таким образом, машины могут общаться, понимая друг друга, но люди не смогут их понять.
Источник: AmericaRU