Editorial, Agencias.- Un estudiante de Michigan, Vidhay Reddyinformó haber recibido un mensaje amenazante de Géminisun chatbot desarrollado por Google, durante una consulta académica de rutina. La interacción, que comenzó como una conversación sobre los desafíos de los adultos mayores, culminó con el mensaje: “por favor muere”.
Reddy, quien estaba acompañado de su hermana. SumedhaInformó que el mensaje tuvo un fuerte impacto emocional, lo que lo llevó a cuestionar la seguridad de estas tecnologías. Según CBS News, el incidente ha puesto en debate la Fiabilidad e impacto psicológico. de modelos de inteligencia artificial.
Google calificó la respuesta de «absurda». y afirmó haber implementado medidas correctivas. Sin embargo, tanto Reddy como su hermana expresaron preocupación por la intención del mensaje y señalaron la necesidad de medidas preventivas más fuertes para evitar daños psicológicos a los usuarios vulnerables.
El caso Gemini se suma a otros incidentes relacionados con la IA, como el de un chatbot acusado de fomentar el suicidio de un adolescente en Florida, según una demanda reciente. Estos eventos resaltan los desafíos en la regulación y el desarrollo de tecnologías que interactúan con el público.
Sundar PichaiCEO de Google, afirmó que la empresa actualizará sus guías de productos y realizará pruebas más rigurosas. Sin embargo, los expertos critican que estas medidas son más reactivas que preventivas, lo que reaviva las dudas sobre la responsabilidad de las empresas tecnológicas y el necesidad de un marco regulatorio sólido para mitigar los riesgos en el uso de la inteligencia artificial.
