Sam Altman defende aceitar certos danos como parte do avanço da IA

O CEO da OpenAI, Sam Altman, defende uma regulamentação menos restritiva da inteligência artificial e sustenta que a sociedade deveria aceitar a ocorrência de alguns danos em troca dos seus benefícios. Numa entrevista ao podcast Decoded, do Politico, mencionou riscos como invasões informáticas, fraudes e usos maliciosos, e argumentou que os usos benéficos da tecnologia serão muito mais numerosos do que os prejudiciais.

A posição coloca em primeiro plano uma questão relevante para as empresas que desenvolvem ou incorporam IA: qual é o nível de risco aceitável, quem decide onde fica o limite e quem deve responder quando algo corre mal. As declarações de Altman expressam a posição de um executivo; por si só, não constituem uma norma nem determinam as obrigações legais das empresas.

OpenAI e Anthropic discordam sobre o alcance da regulamentação

Altman descreveu uma diferença entre aqueles que, como a OpenAI, apoiam uma supervisão mais ligeira e aqueles que promovem controlos mais rigorosos. Rejeitou a ideia de que o controlo da tecnologia deva ficar concentrado num único laboratório e sustentou que impor medidas capazes de evitar qualquer incidente significaria renunciar a parte dos seus benefícios e limitar a sua disponibilidade.

A comparação com a Anthropic é central no debate, embora um porta-voz da empresa tenha esclarecido ao Politico que as suas propostas regulamentares se aplicam aos modelos de ponta. Por conseguinte, a discussão não se resume a uma oposição entre regulamentação e ausência de regulamentação: trata também de saber quais os sistemas sujeitos a controlos específicos e quem os supervisiona.

Altman afirmou que a OpenAI não aceita riscos catastróficos, entre eles uma grave perda de controlo sobre a IA. Essa ressalva distingue os incidentes que considera possíveis e aceitáveis dos cenários extremos que diz querer evitar, embora, por si só, não estabeleça os critérios para traçar essa fronteira.

O debate sobre os riscos também é um debate sobre responsabilidade

As declarações foram alvo de críticas políticas e sociais. O governador da Florida, Ron DeSantis, questionou se um pequeno grupo de dirigentes tecnológicos pode decidir, em nome de toda a sociedade, que danos são aceitáveis. O jornalista Chris Stokel-Walker, numa coluna de opinião publicada pelo The Guardian, apresentou outra crítica: as empresas não deveriam ficar com os benefícios enquanto transferem para terceiros os custos das falhas.

São objeções distintas, mas apontam para uma mesma tensão. Um utilizador que escolhe usar uma ferramenta pode conhecer parte dos seus riscos; já uma empresa, um organismo público ou uma pessoa afetada por um sistema implementado no seu meio pode ficar exposta sem o ter escolhido. Para as organizações, essa diferença torna relevante avaliar não só a utilidade de uma aplicação, mas também quem pode ser afetado e que mecanismos existem para detetar, conter e gerir incidentes.

Altman também reconheceu a necessidade de um quadro de responsabilidade para as empresas que disponibilizam modelos e indicou que a OpenAI terá de assumir a responsabilidade por pelo menos alguns problemas relacionados com o treino. As fontes disponíveis não especificam como esse quadro se traduziria em obrigações concretas nem como seriam distribuídas as responsabilidades entre programadores, fornecedores e organizações utilizadoras.

Uma decisão pública, não apenas tecnológica

O argumento de que os benefícios superarão amplamente os danos é uma expectativa de Altman, não uma garantia demonstrada pelas declarações. Do mesmo modo, reconhecer que haverá incidentes não determina quem deve assumir as suas consequências. A discussão regulamentar consiste precisamente em estabelecer que riscos são tolerados, que salvaguardas são exigidas e que responsabilidades cabem a quem desenvolve e implementa estes sistemas.

Para as empresas, o debate sublinha a importância de considerar o risco como parte das decisões de adoção e implementação, especialmente quando uma ferramenta pode atuar sobre sistemas ou dados de terceiros. Mas o alcance das obrigações legais dependerá das normas aplicáveis e das circunstâncias de cada caso; as declarações dos executivos não substituem essa análise.