2023-10-18 09:47:42
Microsoft ha lanzado un nuevo programa de recompensas por fallos de IA que ofrece recompensas de entre 2.000 y 15.000 dólares a los investigadores de seguridad que descubran vulnerabilidades en los productos de IA de Bing.
El primer producto elegible es la suite Bing AI-powered, incluyendo Bing Chat, Bing Chat for Business, Bing Image Creator, y las integraciones de IA de Bing con la aplicación Microsoft Start y la aplicación Skype Mobile.
Microsoft está buscando ataques de «inyección de prompt», que también afectan a GPT-4 de OpenAI, mensajes de chat falsos u ofensivos, y presuntas fugas de código y prompt del sistema, entre otras vulnerabilidades.
Estos pueden ser reportados a través del Portal de Investigadores del MSRC, y las preguntas pueden ser dirigidas a bounty(at)microsoft.com. Las recompensas se basan en la gravedad y calidad de las vulnerabilidades encontradas. Para más información, visite la página Sitio web del programa AI Bounty de Microsoft.
Bing Chat tiene un comienzo difícil
El lanzamiento del programa se produce tras una serie de fallos que han afectado a Bing Chat desde su introducción en febrero. Al parecer, Microsoft era consciente de estos fallos antes del lanzamiento, pero decidió seguir adelante de todos modos.
Un estudio de AlgorithmWatch muestra que Bing Chat proporciona información incorrecta en relación con las elecciones. A pesar de esta falta de fiabilidad, Microsoft sigue ofreciendo el chat como fuente de información. Microsoft también ha secuestrado Bing Chat para anuncios no etiquetados de sus productos.
El chat de Bing estuvo disponible de forma general en mayo de 2023. Microsoft está ampliando Bing Chat de forma similar a ChatGPT de OpenAI, añadiendo nuevas funciones como respuestas con imágenes, historial de chat y plugins para que Bing Chat pase de ser un producto a una plataforma.
Microsoft ha integrado Bing Chat en su navegador Edge y otros navegadores y ofrece una versión para empresas. Plugins como OpenTable o Wolfram Alpha están diseñados para ayudar con tareas más complejas como reservas en restaurantes y matemáticas, similar al concepto de plugin de ChatGPT.
En concreto, Microsoft quiere posicionar Bing Chat como un «copiloto para la web», desafiando el dominio de Google en las búsquedas y creando potencialmente un nuevo ecosistema de contenidos. Pero Kevin Scott, director de tecnología de Microsoft, declaró recientemente a Nilay Patel de The Verge que hasta ahora sólo han conseguido «pequeñas ganancias de cuota de mercado», aunque lo han hecho «de formas que no habíamos visto antes».
El consejero delegado de Microsoft, Satya Nadella, se mostró menos entusiasta al calificar de «exuberancia» sus optimistas comentarios sobre el chat de Bing a principios de año en un caso antimonopolio contra Google. Nadella habló de cómo Microsoft podría esperar aumentar su cuota de mercado del tres por ciento al 3,5 por ciento, y de que la IA también podría reforzar aún más el dominio del mercado de Google.
