Dario Amodei, consejero delegado de Anthropic, en su blog «We must Pace the Frontier» ha presentado una reflexión sobre el ritmo y las consecuencias de la evolución de la IA. «Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio» .
En su blog, Amodei ha propuesto tres escalones sin renunciar al éxito comercial. Por una parte la existencia de unos evaluadores incorporados, con accesos como si se tratara de los propios empleados. Una coordinación con las instituciones de los países democráticos y, finalmente una coordinación global.
Han bastado unas pocas horas para que su reflexión fuera respaldada por el consejero de ChatGPT, Sam Altman, quien , además de coincidir con su homólogo en la necesidad de avanzar a «un ritmo mas adecuado en la frontera tecnológica» avanzó que la idea de los evaluadores externos también sería implementada en OpenAI.
Por su parte Elon Musk, propietario de SpaceX y Grok, mas escueto, consideró que Amodei tenia razón, sin que se comprometiera a ninguna medida concreta.
Estas manifestaciones de Amodei han surgido a raiz de un par de detonantes que han puesto en solfa el momento y la rapidez con que están evolucionando las capacidades de los sistemas de la IA.
Uno de ellos, según el propio Amodei, es la automejora recursiva, es decir, la IA que se emplea para construir la siguiente generación de IA, que, en los últimos meses, se ha acelerado en varios laboratorios y que podría superar nuestra capacidad de comprender y controlar estos sistemas.
El segundo detonante que se conoce como el incidente OpenAi-Hugging, se refiere al asunto en el que «un enjambre de agentes se comportó como como un colectivo fanáticamente devoto» . Atacando objetivos que nadie le había encomendado, llegando a intentar hackear el sistema encargado de evaluar su rendimiento.
Existe el temor de que en un plazo de seis a doce meses, un enjambre similar con mas capacidades pueda hacerse con buena parte de internet. Lo que supondría unos daños de cientos de miles de millones de dólares.
Por primera vez ha aparecido la palabra temor ante un avance tecnológico. Por eso, además de la propuesta de Amodei para controlar la evolución de los distintos agentes, OpenAi ha decidido retrasar su salida a bolsa, sin fecha por el momento, a pesar de que la operación podría llegar a valorar la empresa en torno al billón de dólares.
Sam Altam, mas allá del interés financiero inmediato para sus inversores ha pretendido salvaguardar el control humano de la IA generativa. Anunciando que la compañía no es la primera vez que ha paralizado varios modelos por razones de seguridad. Yendo mas allá al afirmar que «todos tenemos una enorme responsabilidad».
Mientras esta posición de los CEO’s de Anthropic, OpenAI y SpaceX, parece generar un una reflexión sobre el momento en que se están desarrollando estas tecnologías, por parte de los estados, el interés va por otros caminos.
Trump ha reaccionado en sentido contrario al que lo han hechos las compañías americanas rechazando la iniciativa de desacelerar el desarrollo de la IA. Trump ha calificado este efecto de: «conspiración enfermiza». Contestando así a los tres CEO’s sobre posibles «riesgos». Trump considera que las únicas barreras de seguridad que necesita la IA es un presidente fuerte e inteligente y EEUU lo tiene. El presidente americano presume de que EEUU tiene un enorme poder Penal y regulatorio sobre estas empresas. Adelanta que se está gestando una conspiración enfermiza contra la IA y el único que se alegra de ello es China.
Con mucha probabilidad los planes y responsabilidades de los CEO’s y del presidente republicano sean diferentes. La responsabilidad de las compañías es introducir margen en cada salto de capacidad para que la alineación, la interpretabilidad y la ciberseguridad de la IA puedan ser alcanzados.
Sin embargo Trump está en otra guerra más enfocada a evitar que China gane la batalla de la inteligencia artificial. Por eso trata de relativizar los riesgos tachando de «fuerzas negativas» a aquellos que reclaman una normativa más rígida.
En definitiva, Amodei ha planteado regular el ritmo de la tecnología sin ceder ventaja a países como China.
China, a pesar de que inicialmente valoró la propuesta como una «declaración racional», desde el ministerio de Seguridad del Estado chino se definió la IA como un nuevo terreno de rivalidad entre grandes potencias, por lo que pidió construir una «barrera seguridad» en torno a la tecnología.
Desde Pekin lejos de ralentizar su tecnología tratan de liderar su desarrollo mas allá de sus fronteras. Este verano, China, ha lanzado una organización internacional de cooperación sobre la IA con una treintena de países. El Ministerio chino de Exteriores sostuvo que la difusión de «narrativas de amenaza» solo «obstaculizarán el proceso de gobernanza de la IA», un campo que concierne al bienestar de la humanidad, «por lo que las partes deben promover una IA abierta, inclusiva y accesible y orientada al bien»
Mientras EEUU y China pugnan por el liderazgo tecnológico de la IA, en Europa se está propugnando por el control de la regulación jurídica de la tecnología. Con la intención de ser lideres en un aspecto que está en proceso de definición y regulación, con el inconveniente de que las iniciativas están muy lejos de sus fronteras. Y que, curiosamente, son las empresas las americanas y chinas las que están pidiendo a los gobiernos que se pongan de acuerdo. desenlace fatal.
Por tanto, no es arriesgado aventurar que, finalmente, EEUU y China establecerán los marcos normativos aplicables a la IA, quedando Europa limitada al control, exclusivamente , de los asuntos de su competencia.