Google anunció restricciones en su nueva herramienta de búsqueda de IA, AI Overviews, después de que produjera respuestas inexactas y extrañas, las cuales se volvieron virales en las redes sociales. La herramienta, diseñada para resumir consultas de búsqueda, generó resultados problemáticos como La herramienta aconsejaba a la gente comer piedras y difundir información falsa sobre Barack Obama.
Liz Reid, jefa de búsqueda de Google, reconoció estos fallos y mencionó la implementación de medidas de protección, tales como limitar el contenido generado por los usuarios y detener temporalmente las respuestas de IA en ciertos temas como la salud. A pesar de los desafíos, Reid defendió la herramienta, afirmando que ha llevado a un aumento en la satisfacción del usuario, pero advirtió a los usuarios que verifiquen independientemente los resultados debido al riesgo de desinformación en áreas con información confiable mínima.
Reacciones y Medidas
El despliegue de AI Overviews de Google provocó reacciones al reemplazar los enlaces de resultados de búsqueda tradicionales, y crecieron las preocupaciones sobre la propagación de consejos inexactos y dañinos en las redes sociales. Aunque algunas respuestas virales eran auténticas, muchas no lo eran, lo que llevó a Google a instar a los usuarios a verificar la información por su cuenta. Reid atribuyó los resultados peculiares a un “vacío de datos” donde la información confiable es escasa, permitiendo que el contenido satírico prolifere.
A pesar de los contratiempos, Google sigue comprometido con la mejora de sus herramientas de IA y la mejora de la experiencia del usuario mientras se protege contra la desinformación. Con estas nuevas restricciones, la empresa busca equilibrar la innovación tecnológica con la responsabilidad social.
