Tras varios informes sobre enjambres de agentes de IA que hackean páginas web y se coordinan en foros secretos, además de las advertencias de un ingeniero que renunció a Anthropic, las principales empresas de IA han pedido coordinar una "ralentización" en el desarrollo de esta tecnología. Aunque han utilizado distintas formas de plantear esa idea, también han expresado su preocupación por que un acuerdo de este tipo pueda infringir las leyes antimonopolio.
Los expertos en competencia afirman que, aunque la forma en que las empresas han planteado el debate no las favorece, permitir el desarrollo sin límites de una IA potencialmente fuera de control tampoco parece encajar con los objetivos de la Ley Sherman, una de las principales leyes antimonopolio de EE UU, creada para proteger la competencia. Al mismo tiempo, conseguir la aprobación formal del Gobierno podría ayudar a evitar costosas investigaciones en el futuro.
Retórica radical
En materia antimonopolio, las palabras que usan los empleados para describir una decisión empresarial pueden ser casi tan importantes como la decisión misma. Por ejemplo, Google capacitó a su personal para evitar expresiones que pudieran sugerir prácticas anticompetitivas, incluso en comunicaciones internas. En su lugar, les recomendó destacar cómo esas decisiones mejorarían sus productos y beneficiarían a los consumidores.
Desde una perspectiva antimonopolística, el uso de expresiones como "una ralentización" o "una pausa" puede despertar más sospechas que la actividad real a la que se refieren: desarrollar formas de garantizar que los modelos avanzados de IA no se salgan de control. Una desaceleración acordada colectivamente sin ningún propósito concreto podría ser interpretada por los reguladores como un acuerdo anticompetitivo para reducir el comercio.
"En cierto modo, se han metido en un callejón sin salida con la forma en que formulan las cosas", afirma John Bergmayer, asesor jurídico de la organización sin fines de lucro Public Knowledge.
"Normalmente, en materia de defensa de la competencia, uno de los aspectos que analizan los economistas es si se está reduciendo la producción", explica Bergmayer; es decir, si dos o más empresas están llegando a un pacto para "tomárselo con calma". En lugar de presentar la iniciativa como una forma de frenar el desarrollo, las empresas de IA podrían haber puesto el énfasis en trabajar juntas para crear protocolos de seguridad frente a riesgos catastróficos. La ralentización en el lanzamiento de nuevos modelos habría quedado entonces como una consecuencia de esas medidas, y no como el objetivo principal.
Otros CEO no están precisamente de acuerdo
El CEO de Meta, Mark Zuckerberg, cuya empresa ha eludido recientemente una demanda antimonopolio a gran escala presentada por la Comisión Federal de Comercio (FTC), se pronunció sobre la propuesta de ralentización sin respaldar en absoluto una "ralentización" explícita. En su lugar, Zuckerberg argumentó que los laboratorios de IA tienen un fuerte incentivo natural para hacer que los agentes de IA se comporten mejor, ya que los consumidores no quieren que los modelos hagan cosas que las personas no pretenden, lo que en la jerga del sector de la IA se conoce como "desalineación", y que las empresas que no se tomen el tiempo necesario para lograr una alineación adecuada "se quedarán atrás" en términos de competitividad. Es la diferencia entre que dos fabricantes de automóviles digan "hemos acordado no fabricar mejores autos durante un tiempo" y que digan "no vamos a fabricar vehículos más rápidos hasta que descubramos cómo hacerlos seguros, porque nadie los comprará si matan a gente".
David Lawrence, hasta hace poco director de políticas de la División Antimonopolio del Departamento de Justicia (DOJ), escribió en LinkedIn que los acuerdos que previenen riesgos catastróficos, en realidad, "aumentan la producción y fomentan la competencia", y ya están protegidos por la ley en virtud de lo que se conoce como la "doctrina de las restricciones accesorias".
