Google restringe su IA tras aconsejar comer piedras y difundir falsedades

01/06/2024

Google anunció restricciones en su nueva herramienta de búsqueda de IA, AI Overviews, después de que produjera respuestas inexactas y extrañas, las cuales se volvieron virales en las redes sociales. La herramienta, diseñada para resumir consultas de búsqueda, generó resultados problemáticos como La herramienta aconsejaba a la gente comer piedras y difundir información falsa sobre Barack Obama.

Liz Reid, jefa de búsqueda de Google, reconoció estos fallos y mencionó la implementación de medidas de protección, tales como limitar el contenido generado por los usuarios y detener temporalmente las respuestas de IA en ciertos temas como la salud. A pesar de los desafíos, Reid defendió la herramienta, afirmando que ha llevado a un aumento en la satisfacción del usuario, pero advirtió a los usuarios que verifiquen independientemente los resultados debido al riesgo de desinformación en áreas con información confiable mínima.

Reacciones y Medidas

El despliegue de AI Overviews de Google provocó reacciones al reemplazar los enlaces de resultados de búsqueda tradicionales, y crecieron las preocupaciones sobre la propagación de consejos inexactos y dañinos en las redes sociales. Aunque algunas respuestas virales eran auténticas, muchas no lo eran, lo que llevó a Google a instar a los usuarios a verificar la información por su cuenta. Reid atribuyó los resultados peculiares a un “vacío de datos” donde la información confiable es escasa, permitiendo que el contenido satírico prolifere.

A pesar de los contratiempos, Google sigue comprometido con la mejora de sus herramientas de IA y la mejora de la experiencia del usuario mientras se protege contra la desinformación. Con estas nuevas restricciones, la empresa busca equilibrar la innovación tecnológica con la responsabilidad social.

Google anunció restricciones en su nueva herramienta de búsqueda de IA, AI Overviews, después de que produjera respuestas inexactas y extrañas

¿Qué medidas implementó Google después de que AI Overviews produjera respuestas inexactas y extrañas?

Google implementó una serie de medidas para mejorar la precisión de AI Overviews, incluyendo la actualización de algoritmos, la incorporación de revisiones humanas y el establecimiento de protocolos de calidad más estrictos. Además, aumentaron la transparencia en el proceso de generación de respuestas.

¿Puede Google mejorar la precisión de AI Overviews después de anunciar restricciones por respuestas inexactas y extrañas?

Send a request and get a free consultation:

Azerbaijan's Business Buzz

Thanks for the apply!
We will get back to you within 1 business day
In the meantime, you can get a free consultation from our AI assistant:​