2023-09-04 09:50:39
Salesforce está integrando una amplia gama de servicios de IA en sus productos. Esto requiere una nueva política.
En la Política de uso aceptable de la inteligencia artificial, Salesforce aclara que sus sistemas de IA no pueden responsabilizarse de decisiones que puedan tener implicaciones legales o de otro tipo importantes.
El uso de los productos de IA de Salesforce cumple con la política sólo si la decisión final la toma un humano, afirma la empresa. El cliente debe tener en cuenta información adicional además de la recomendación de la IA.
La IA generativa no puede sustituir a los profesionales autorizados
La política también establece que la IA generativa no debe sustituir al asesoramiento autorizado, como el financiero o legal, ni generar consejos, tratamientos o diagnósticos médicos individualizados.
Los usos de apoyo de la IA, como los resúmenes de textos más largos, estarían permitidos. Una vez más, un profesional cualificado debe participar en el proceso para revisar y aprobar el contenido generado.
Salesforce también protege contra el uso de IA generativa para la discriminación, el abuso o el engaño, así como el uso de sistemas para campañas políticas y desarrollo de armas. Esto incluye, por ejemplo, la comercialización de armas.
Los clientes exigen transparencia en la IA
Salesforce también ha publicado la última edición de su Estudio sobre el estado del cliente conectado. Revela la desconfianza de los clientes en que las empresas utilicen la IA de forma ética: solo el 57% cree que lo harán.
El 68% de los clientes afirma que los avances en IA están obligando a las empresas a ser aún más transparentes en sus comunicaciones. Por ejemplo, el 89% quiere saber si está hablando con un humano o con una IA en la atención al cliente, y el 80% cree que es importante que los contenidos generados por IA sean revisados y aprobados por humanos.
Los datos se recogieron en una encuesta doble ciego realizada a 11.000 consumidores y 3.300 compradores empresariales en numerosos países entre el 3 de mayo y el 14 de julio de 2023.
Salesforce ofrece modelos lingüísticos especializados para marketing y comercio, así como para servicios y ventas, es inversor en la startup B2B centrada en IA Cohere y entrena modelos de IA como el modelo de código T5.
