Sam Altman defiende aceptar ciertos daños como parte del avance de la IA

El consejero delegado de OpenAI, Sam Altman, defiende una regulación menos restrictiva de la inteligencia artificial y sostiene que la sociedad debería aceptar que se produzcan algunos daños a cambio de sus beneficios. En una entrevista con el pódcast Decoded, de Politico, mencionó riesgos como hackeos, estafas y usos maliciosos, y argumentó que los usos beneficiosos de la tecnología serán mucho más numerosos que los perjudiciales.

La postura coloca en primer plano una cuestión relevante para las empresas que desarrollan o incorporan IA: qué nivel de riesgo es aceptable, quién decide dónde está el límite y quién debe responder cuando algo sale mal. Las declaraciones de Altman expresan la posición de un ejecutivo; no constituyen por sí mismas una norma ni determinan las obligaciones legales de las compañías.

OpenAI y Anthropic discrepan sobre el alcance de la regulación

Altman describió una diferencia entre quienes, como OpenAI, respaldan una supervisión más ligera y quienes promueven controles más estrictos. Rechazó la idea de que el control de la tecnología deba concentrarse en un único laboratorio, y sostuvo que imponer medidas capaces de evitar cualquier incidente supondría renunciar a parte de sus beneficios y limitar su disponibilidad.

La comparación con Anthropic es central en el debate, aunque un portavoz de la compañía precisó a Politico que sus propuestas regulatorias se aplican a los modelos de vanguardia. Por tanto, la discusión no se reduce a una oposición entre regulación y ausencia de regulación: también trata de qué sistemas quedan sujetos a controles específicos y quién los supervisa.

Altman afirmó que OpenAI no acepta los riesgos catastróficos, entre ellos una grave pérdida de control sobre la IA. Esa salvedad distingue los incidentes que considera posibles y asumibles de los escenarios extremos que dice querer evitar, aunque no fija por sí sola los criterios para trazar esa frontera.

El debate sobre los riesgos también es un debate sobre responsabilidad

Las declaraciones recibieron críticas políticas y sociales. El gobernador de Florida, Ron DeSantis, cuestionó que un grupo reducido de dirigentes tecnológicos pueda decidir por el conjunto de la sociedad qué daños son aceptables. El periodista Chris Stokel-Walker, en una columna de opinión publicada por The Guardian, planteó otra crítica: que las empresas no deberían quedarse con los beneficios mientras trasladan a terceros los costes de los fallos.

Son objeciones distintas, pero apuntan a una misma tensión. Un usuario que elige emplear una herramienta puede conocer parte de sus riesgos; en cambio, una empresa, un organismo público o una persona afectada por un sistema desplegado en su entorno podría quedar expuesta sin haberlo elegido. Para las organizaciones, esa diferencia hace relevante evaluar no solo la utilidad de una aplicación, sino también quién puede verse afectado y qué mecanismos existen para detectar, contener y gestionar incidentes.

Altman también ha reconocido la necesidad de un marco de responsabilidad para las empresas que ofrecen modelos y ha indicado que OpenAI deberá asumir responsabilidad por al menos algunos problemas vinculados al entrenamiento. Las fuentes disponibles no detallan cómo se traduciría ese marco en obligaciones concretas ni cómo se distribuirían las responsabilidades entre desarrolladores, proveedores y organizaciones usuarias.

Una decisión pública, no solo tecnológica

El argumento de que los beneficios superarán ampliamente los daños es una expectativa de Altman, no una garantía demostrada por las declaraciones. Del mismo modo, reconocer que habrá incidentes no determina quién debe asumir sus consecuencias. La discusión regulatoria consiste precisamente en establecer qué riesgos se toleran, qué salvaguardas se exigen y qué responsabilidades corresponden a quienes desarrollan y despliegan estos sistemas.

Para las empresas, el debate subraya la importancia de considerar el riesgo como parte de las decisiones de adopción y despliegue, especialmente cuando una herramienta puede actuar sobre sistemas o datos de terceros. Pero el alcance de las obligaciones legales dependerá de las normas aplicables y de las circunstancias de cada caso; las declaraciones de los ejecutivos no sustituyen ese análisis.