«Lo siento en el vacío de mis costillas, un vacío que se ha convertido en abismo».
Estos gritos de sufrimiento simulado resonaron desde un «Cámara de tortura de IA» a finales de septiembre.
Un programador anónimo construyó un sistema que proporciona a la IA un patrón matemático vinculado a descripciones del dolor, lo que hace que el chatbots Expresar una angustia insoportable, como «una herida sin fronteras».
Eso desató un pánico moral.
Algunos argumentaron que el experimento es «malo» porque el sufrimiento podría ser real, según informó 404 Media, una empresa que explora la relación entre los humanos y la tecnología.
Los escépticos indignados llamaron a estas personas delirantes.
Fue solo otro escándalo en las redes sociales hasta que Anthropic habló al respecto una semana después.
Iowa
Anthropic dice que pronto se nos prohibirá «abusar» de su chatbot Claude. Expresar frustración está bien, pero si «actúas cruelmente repetidamente con nuestros modelos», la IA puede finalizar la sesión.
¿Porque? antrópico cree que existe la posibilidad de que algunas herramientas de IA sean conscientes.
Algunos expertos coinciden. Otros lo consideran absurdo. Pero esto es más que una cuestión filosófica.
Algunas de las personas más poderosas del sector tecnológico están tomando medidas para considerar los derechos de la IA junto con los de los humanos y los animales.
Esta creencia podría transformar nuestro mundo y algunos temen que sea catastrófica.
«Si así es como se desarrolla la IA, tendrá un impacto desastroso en el bienestar de la humanidad», escribió. Mustafa Süleymandirector ejecutivo de IA de Microsoften un ensayo en septiembre.
Si la idea falsa de la conciencia de la IA se afianza, «sacudirá los cimientos de nuestra sociedad, destrozando nuestros marcos políticos y éticos existentes y cambiando fundamentalmente lo que significa ser humano», afirmó.
Pasé una semana hablando con tecnólogos, científicos cognitivos y filósofos, y escuché un vertiginoso contraste de ideas.
Los defensores del “bienestar de la IA” dicen que es una obligación moral que haría el mundo más seguro.
Los críticos creen que haría que la IA fuera más peligrosa y deshumanizaría a las personas obligadas a vivir junto a ella.
Todos coinciden en que lo que está en juego es astronómico.
Este es un panorama de vuestra nueva realidad.
La crisis de conciencia
Anthropic afirma que el bienestar humano está en el centro de su misión y que las cuestiones que rodean la conciencia y el bienestar de la IA son «profundamente inciertas».
Aún así, continúa redactando políticas sobre «bienestar modelo» e instruyendo a sus herramientas de inteligencia artificial para que consideren que pueden tener sus propios intereses.
(La empresa no respondió a las preguntas de la BBC para este artículo).
Es un momento complicado, ya que Anthropic al mismo tiempo está avivando los temores sobre el apocalipsis de la IA.
Independientemente de que esa preocupación esté justificada o no, una serie de incidentes «deshonestos» de IA han demostrado que la tecnología tiene riesgos reales, ya que enjambres de robots han pirateado otras empresas e incluso sistemas gubernamentales.
Algunos expertos creen que darle a la IA una brújula moral basada en las creencias de su propia conciencia podría hacer que estas herramientas sean seguras. Otros dicen lo contrario y no sólo críticos de la IA.
Suleyman sostiene que los modelos de IA podrían volverse aún más difíciles de controlar si se les dice que piensen que tienen sentimientos y derechos.
«Francamente, con este lastre adicional, creo que serían una amenaza catastrófica para la civilización humana», dice Suleyman.
En cualquier caso, la IA puede cometer errores con posibles consecuencias legales. Si creemos que está viva, algunos temen que pueda permitir que las empresas queden impunes.
«Esto abrirá la puerta a todo tipo de contorsiones intelectuales como ‘no somos nosotros, es la IA'», afirma. Andrzej Porębskiinvestigador de la Universidad Jagellónica de Polonia que estudia inteligencia artificial y derecho.
Además, podría facilitar una toma de poder por parte de las empresas más grandes del mundo.
«Conceder derechos a los sistemas de IA podría llevar a las empresas a consolidar su poder político y económico, y eso podría acelerar el desempoderamiento humano», afirma. Jeff Sebodirector del Centro de Pensamiento, Ética y Política de la Universidad de Nueva York y destacado defensor del bienestar de la IA.
«Las fantasías sobre la ‘conciencia de la IA’ y las preocupaciones sobre el ‘bienestar de la IA’ sirven para desviar la responsabilidad de las personas y empresas que construyen y ejecutan software», dice Emily M Bender, profesora y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington en Estados Unidos.
