California modifica proyecto de ley para prevenir desastres de IA antes de la votación final, siguiendo consejos de Anropic
2024-08-19 12:10:48
El proyecto de ley SB 1047 de California, diseñado para prevenir desastres relacionados con la inteligencia artificial (IA), ha sido un tema candente en Silicon Valley. A pesar de la fuerte oposición de empresas tecnológicas, como Anthropic, y diversos actores de la industria, los legisladores han logrado un avance significativo al aprobar el proyecto en el Comité de Apropiaciones de California.
El senador Scott Wiener, impulsor del SB 1047, anunció la incorporación de varias enmiendas que responden a las preocupaciones de la industria. Una de las modificaciones más importantes es la reducción del poder del gobierno de California para demandar a las empresas de IA antes de que ocurra un desastre. Ahora, el fiscal general solo podrá tomar medidas preventivas o demandar después de un evento catastrófico.
Otro cambio relevante es la eliminación de la creación de la División de Modelos de Frontera (FMD), aunque se mantiene la Junta de Modelos de Frontera, ampliada ahora a nueve miembros. Esta junta tendrá la tarea de establecer regulaciones y guías de seguridad para los modelos de IA.
Además, los desarrolladores de IA ya no estarán obligados a presentar certificaciones de seguridad bajo pena de perjurio; en su lugar, se les pedirá que publiquen declaraciones sobre sus prácticas de seguridad. El lenguaje del proyecto también se ha suavizado, requiriendo «cuidado razonable» en lugar de «garantía razonable» para asegurar que los modelos no representen riesgos significativos.
Implicaciones para el Futuro de la IA
Estas enmiendas buscan encontrar un equilibrio entre la seguridad y la innovación, un objetivo que muchos consideran crucial para el desarrollo de la IA en California. Sin embargo, la oposición persiste. Críticos como el socio general de Andreessen Horowitz, Martin Casado, han expresado que estas modificaciones son insuficientes y no abordan los problemas fundamentales del proyecto.
A pesar de las tensiones, el SB 1047 avanza hacia su votación final en la Asamblea de California. Si se aprueba, el proyecto regresará al Senado para ratificar las enmiendas antes de ser presentado al gobernador Gavin Newsom, quien tendrá la decisión final sobre su promulgación.
Conclusión
El SB 1047 representa un esfuerzo ambicioso por regular la IA en un estado que lidera la innovación tecnológica. Sin embargo, el camino hacia su implementación está lleno de desafíos y divisiones, reflejando las complejas dinámicas entre la regulación gubernamental y la industria tecnológica. La votación final será un momento decisivo que podría definir el futuro del desarrollo de IA en California.
