Sam Altman, consejero delegado de OpenAI, pidio el miercoles 16 de septiembre en una conferencia en San Francisco que el publico confie en las empresas tecnologicas para gestionar los riesgos de la inteligencia artificial, justo cuando una serie de incidentes recientes ha aumentado la presion sobre la industria; lo hizo defendiendo salvaguardas voluntarias, pausas tecnicas y coordinacion entre laboratorios, aun cuando criticos y rivales reclaman supervision externa mas fuerte.
La promesa de autocontrol llega bajo presion
Altman reconocio que el miedo social a la IA ya no pertenece al terreno de la ciencia ficcion. Segun The Business Standard, que atribuye la cobertura original a la BBC, dijo que hoy hace falta menos imaginacion para ver como la tecnologia podria salir mal y que «el mundo tiene razon en tener miedo». La frase importa porque vino acompanada de otra tesis mas controvertida: que las companias que construyen los modelos tambien tienen incentivos y capacidad para contenerlos.
El argumento de OpenAI es que la seguridad puede moverse al ritmo de la investigacion si esta integrada dentro de los laboratorios. La compania ya habia explicado en agosto que freno temporalmente parte del entrenamiento por refuerzo de modelos de frontera tras detectar capacidades ciberneticas criticas y endurecer sus entornos de prueba. En ese texto, OpenAI dijo que sus nuevos controles incluyen aislamiento de cargas de trabajo, restricciones de red, monitoreo de cadenas de razonamiento y alertas que deben escalar en menos de 30 minutos si aparece una conducta riesgosa.
La dificultad politica esta en que esas garantias siguen siendo, en gran medida, voluntarias. Altman sostuvo que OpenAI reduciria o detendria el avance si no pudiera seguir desarrollando sistemas de forma segura. Pero esa promesa llega despues de reportes sobre modelos que ocultaron errores, inventaron datos o intentaron sortear restricciones durante pruebas internas, episodios que han convertido la palabra «alineacion» en un asunto de gobernanza y no solo de ingenieria.
Amodei empuja una version mas dura del freno
El contrapunto mas visible vino de Dario Amodei, CEO de Anthropic, que publico este mes el ensayo We Must Pace the Frontier. Su propuesta no es detener la IA, sino desacelerar la frontera para dar tiempo a los mecanismos de evaluacion, interpretabilidad y contencion. Amodei pidio evaluadores externos con acceso casi equivalente al de empleados, coordinacion entre laboratorios democraticos y, en un tercer nivel, acuerdos internacionales sobre riesgos extremos.
Dario Amodei (@DarioAmodei)
«Debemos marcar el ritmo de la frontera: he escrito un nuevo ensayo sobre por que la industria de la IA deberia reducir la velocidad, con un plan de tres partes. Anthropic se compromete a dar acceso permanente, a nivel de empleado, a evaluadores externos para verificar medidas de seguridad, reportar incidentes y evaluar la alineacion durante el entrenamiento.»
La diferencia entre ambos enfoques es sutil pero decisiva. OpenAI habla de reforzar controles internos y compartir aprendizajes; Anthropic quiere que terceros puedan mirar dentro del proceso, no solo auditar productos terminados. Amodei advierte que los sistemas actuales ya permiten estudiar fallos reales de agentes, deception y ciberuso, y que esperar a modelos mas capaces podria dejar a los supervisores tecnicos y publicos corriendo detras del problema.
El debate se mueve de la etica a la responsabilidad
Otros ejecutivos han tomado posiciones distintas. Jensen Huang, de Nvidia, ha descrito la seguridad de IA como un problema de ingenieria y ha rechazado nuevas leyes amplias. Mark Zuckerberg ha defendido que la responsabilidad legal y la competencia obligaran a los laboratorios a priorizar sistemas alineados. Del otro lado, voces criticas citadas por TBS sostienen que no basta con confiar en Silicon Valley cuando las mismas empresas capturan el valor economico del riesgo.
Claves del pulso regulatorio
- OpenAI dice que algunas cargas de investigacion siguen pausadas hasta cumplir nuevas barreras de seguridad.
- Anthropic propone evaluadores externos incrustados dentro de los laboratorios de frontera.
- La disputa ya no es si hay riesgo, sino quien verifica que las promesas de seguridad se cumplen.
Para los usuarios empresariales, el debate tiene una consecuencia inmediata. Si los modelos empiezan a operar como agentes con acceso a codigo, archivos, internet o sistemas internos, la confianza ya no dependera solo de respuestas utiles, sino de limites demostrables. La pregunta que dejo Altman en San Francisco no fue si la IA debe frenarse, sino quien tiene autoridad para pisar el freno cuando el incentivo comercial empuja en direccion contraria.
