Empleados advierten que Amazon Q sufre ‘alucinaciones severas’ y filtra datos confidenciales en la vista previa pública

Añadir a tus IAs favoritasQuitar de tus favoritasQuitar de favoritos 0
Puntuación+1

2023-12-06 22:44:14

Puntos destacados:
– 🚨 Empleados de Amazon alertan sobre problemas de precisión y privacidad con el chatbot de IA Q.
– 💰 Amazon invierte hasta $4 mil millones en la startup de IA Anthropic.
– 🔒 Amazon presenta Q como una herramienta de IA empresarial más segura que las herramientas de consumo.

image jpeg 2023-12-06 22:44:14

Tres días después de que Amazon anunciara su chatbot de IA Q, algunos empleados están alertando sobre problemas de precisión y privacidad. Q está «experimentando alucinaciones graves y filtrando datos confidenciales», incluida la ubicación de los centros de datos de AWS, programas de descuento internos y funciones no publicadas, según documentos filtrados obtenidos por Platformer

Un empleado marcó el incidente como «sev 2», lo que significa un incidente lo suficientemente grave como para llamar a los ingenieros por la noche y hacerlos trabajar durante el fin de semana para solucionarlo.

Los problemas iniciales de Q llegan en un momento en que Amazon está trabajando para combatir la percepción de que Microsoft, Google y otras empresas de tecnología lo han superado en la carrera para construir herramientas e infraestructura que aprovechen la inteligencia artificial generativa. En septiembre, la empresa anunció que invertiría hasta $4 mil millones en la startup de IA Anthropic. El martes, en su conferencia anual para desarrolladores de Amazon Web Services, anunció Q, posiblemente el lanzamiento más destacado de la serie de nuevas iniciativas de IA que la empresa presentó esta semana. 

En un comunicado, Amazon minimizó la importancia de las discusiones de los empleados.

«Algunos empleados están compartiendo comentarios a través de canales internos y sistemas de tickets, lo cual es práctica estándar en Amazon», dijo un portavoz. «No se identificó ningún problema de seguridad como resultado de esos comentarios. Apreciamos todos los comentarios que ya hemos recibido y seguiremos ajustando Q a medida que pase de ser un producto en vista previa a estar disponible para todos».

Después de la publicación, el portavoz envió otro comunicado refutando las afirmaciones de los empleados: «Amazon Q no ha filtrado información confidencial».

Q, que ahora está disponible en vista previa gratuita, fue presentado como una especie de versión de software empresarial de ChatGPT. Inicialmente, podrá responder preguntas de los desarrolladores sobre AWS, editar código fuente y citar fuentes, según ejecutivos de Amazon que subieron al escenario esta semana. Competirá con herramientas similares de Microsoft y Google, pero tendrá un precio más bajo que el de sus rivales, al menos al principio.

Al presentar Q, los ejecutivos lo promocionaron como más seguro que las herramientas de consumo como ChatGPT.

Adam Selipsky, CEO de Amazon Web Services, dijo aNew York Times que las empresas «habían prohibido estos asistentes de IA en la empresa debido a las preocupaciones de seguridad y privacidad». En respuesta, el Times informó que «Amazon creó Q para ser más seguro y privado que un chatbot de consumo».

Un documento interno sobre las alucinaciones y respuestas incorrectas de Q señala que «Amazon Q puede alucinar y devolver respuestas dañinas o inapropiadas. Por ejemplo, Amazon Q podría devolver información de seguridad desactualizada que podría poner en riesgo las cuentas de los clientes». Los riesgos señalados en el documento son típicos de los grandes modelos de lenguaje, todos los cuales devuelven respuestas incorrectas o inapropiadas al menos parte del tiempo. 

Deja una opinión

Deje una respuesta

🤖 AI MAFIA
Logo