Компания Google объявила о введении ограничений на использование своего нового инструмента для поиска с помощью искусственного интеллекта, AI Overviews, после того как он стал выдавать неточные и странные ответы, которые быстро распространились в социальных сетях.
Неожиданные и странные результаты
Инструмент, названный AI Overviews, был разработан для того, чтобы суммировать запросы пользователей, но вместо этого начал выдавать проблематичные результаты, такие как советовать людям есть камни и распространять ложную информацию о Бараке Обаме. Глава поискового отдела Google, Лиз Рейд, признала эти ошибки и сообщила о внедрении защитных мер, таких как ограничение пользовательского контента и временная приостановка ответов ИИ на определенные темы, например, касающиеся здоровья.
Меры предосторожности и защита пользователей
Несмотря на возникшие трудности, Рейд защищала инструмент, утверждая, что он привел к увеличению удовлетворенности пользователей. Однако она предупредила пользователей о необходимости самостоятельно проверять результаты из-за риска распространения дезинформации в областях с минимально надежной информацией. Запуск AI Overviews вызвал реакции, так как он заменил традиционные ссылки на результаты поиска, и возникли опасения по поводу распространения неточных и вредных советов в социальных сетях.
Реакция и дальнейшие шаги
Хотя некоторые вирусные ответы были подлинными, многие из них не соответствовали действительности, что побудило Google призвать пользователей самостоятельно проверять информацию. Рейд объяснила странные результаты “информационным вакуумом”, где надежная информация скудна, что позволяет сатирическому контенту распространяться. Несмотря на неудачи, Google остается приверженной улучшению своих инструментов ИИ и повышению пользовательского опыта, при этом обеспечивая защиту от дезинформации.
