Программист Джеки Эклайнэ (Jacky Alciné) заметил, что новое приложение от Google «Фотографии» пометил его фото, где он запечатлен с другом, как горилл. Об этом он написал в своем Твиттере. Веб-разрабочик даже выругался по этому поводу.
Несмотря на то, что Google остается лидером в области искусственного интеллекта и машинного обучения, компьютеры компании все еще совершают ошибки. После того, как был выявлен этот баг, корпорация принесла извинения и изменила настройки алгоритмов, чтобы решить проблему.
Когда пользователи начинают поиск, Google предлагает несколько разработанных категорий маркировки. После инцидента компания удалила категорию «гориллы», так что эти предложения больше не появятся.
Этот случай показал несовершенство современного искусственного интеллекта и машинного обучения, особенно при использовании им потребителями. Сейчас компании часто приходится исправлять ошибки автоматической обработки данных. Google собирается коренным образом изменить систему машинного обучения, сделать ее более контекстной.