Biden quiere avanzar rápido en las salvaguardias de la IA
El presidente Joe Biden firmará el lunes una amplia orden ejecutiva para guiar el desarrollo de la inteligencia artificial , exigiendo a la industria que desarrolle estándares de seguridad, introduciendo nuevas protecciones al consumidor y dando a las agencias federales una extensa lista de tareas pendientes para supervisar la tecnología que progresa rápidamente.
La orden refleja el esfuerzo del gobierno por dar forma a la evolución de la IA de manera que pueda maximizar sus posibilidades y contener sus peligros. La IA ha sido una fuente de profundo interés personal para Biden, con su potencial para afectar la economía y la seguridad nacional.
El jefe de gabinete de la Casa Blanca, Jeff Zients, recordó que Biden dio a su personal una directiva para actuar con urgencia en el tema, habiendo considerado la tecnología como una máxima prioridad.
«No podemos avanzar a un ritmo gubernamental normal», dijo Zients que le dijo el presidente demócrata. «Tenemos que avanzar tan rápido, si no más rápido, que la tecnología misma».
En opinión de Biden, el gobierno llegó tarde a abordar los riesgos de las redes sociales y ahora los jóvenes estadounidenses están lidiando con problemas de salud mental relacionados. La IA tiene la capacidad positiva de acelerar la investigación del cáncer, modelar los impactos del cambio climático, impulsar la producción económica y mejorar los servicios gubernamentales, entre otros beneficios. Pero también podría distorsionar nociones básicas de la verdad con imágenes falsas , profundizar las desigualdades raciales y sociales y proporcionar una herramienta a estafadores y delincuentes.
Mientras la Unión Europea se acerca a la aprobación final de una amplia ley para frenar los daños de la IA y el Congreso aún se encuentra en las primeras etapas del debate sobre las salvaguardias, la administración Biden está “dando pasos adelante para utilizar las palancas que puede controlar”, dijo la defensora de los derechos digitales Alexandra Reeve Givens. , presidente del Centro para la Democracia y la Tecnología. «Eso es emitir directrices y normas para moldear el comportamiento del sector privado y predicar con el ejemplo en el uso de la IA por parte del propio gobierno federal».
La orden se basa en compromisos voluntarios ya asumidos por empresas de tecnología. Es parte de una estrategia más amplia que, según funcionarios de la administración, también incluye legislación del Congreso y diplomacia internacional, una señal de las interrupciones ya causadas por la introducción de nuevas herramientas de inteligencia artificial como ChatGPT que pueden generar nuevos textos, imágenes y sonidos.
Utilizando la Ley de Producción de Defensa, la orden requerirá que los principales desarrolladores de IA compartan los resultados de las pruebas de seguridad y otra información con el gobierno. El Instituto Nacional de Estándares y Tecnología creará estándares para garantizar que las herramientas de inteligencia artificial sean seguras antes de su lanzamiento público.
El Departamento de Comercio publicará directrices para etiquetar y marcar con agua el contenido generado por IA para ayudar a diferenciar entre interacciones auténticas y aquellas generadas por software. La orden también aborda cuestiones de privacidad, derechos civiles, protección al consumidor, investigación científica y derechos de los trabajadores.
Un funcionario de la administración que vio una vista previa de la orden en una llamada dominical con periodistas dijo que las listas de tareas pendientes dentro de la orden se implementarán y cumplirán en el rango de 90 días a 365 días, y los elementos de seguridad enfrentarán los plazos más tempranos. El funcionario informó a los periodistas bajo condición de anonimato, como exige la Casa Blanca.
El jueves pasado, Biden reunió a sus asesores en la Oficina Oval para revisar y finalizar la orden ejecutiva, una reunión de 30 minutos que se extendió a 70 minutos, a pesar de otros asuntos urgentes como el tiroteo masivo en Maine, la guerra entre Israel y Hamas y la selección de un nuevo presidente de la Cámara.
Biden sintió una profunda curiosidad por la tecnología durante los meses de reuniones que precedieron a la redacción de la orden. Su consejo asesor científico se centró en la IA en dos reuniones y su gabinete la discutió en dos reuniones. El presidente también presionó a los ejecutivos tecnológicos y a los defensores de la sociedad civil sobre las capacidades de la tecnología en múltiples reuniones.
«Estaba tan impresionado y alarmado como cualquiera», dijo en una entrevista el subjefe de gabinete de la Casa Blanca, Bruce Reed. “Vio imágenes falsas de IA de sí mismo y de su perro. Vio cómo puede convertirse en mala poesía. Y ha visto y oído la increíble y aterradora tecnología de la clonación de voz, que puede tomar tres segundos de tu voz y convertirla en toda una conversación falsa”.
La posibilidad de imágenes y sonidos falsos llevó al presidente a priorizar el etiquetado y la marca de agua de todo lo producido por IA. Biden también quería frustrar el riesgo de que los estadounidenses mayores recibieran una llamada telefónica de alguien que parecía un ser querido, sólo para ser estafados por una herramienta de inteligencia artificial.
Las reuniones podrían ir más allá de lo previsto: Biden dijo a los defensores de la sociedad civil en un salón de baile del hotel Fairmont de San Francisco en junio: “Esto es importante. Tómate el tiempo que necesites”.
El presidente también habló con científicos y vio las ventajas que aportaba la IA si se aprovechaba para siempre. Escuchó a un físico ganador del Premio Nobel hablar sobre cómo la IA podría explicar los orígenes del universo. Otro científico mostró cómo la IA podría modelar condiciones climáticas extremas, como inundaciones de 100 años, ya que los datos anteriores utilizados para evaluar estos eventos han perdido su precisión debido al cambio climático.
La cuestión de la IA parecía ineludible para Biden. Un fin de semana en Camp David, se relajó viendo la película de Tom Cruise “Misión: Imposible – Dead Reckoning Part One”. El villano de la película es una IA inteligente y rebelde conocida como «la Entidad» que hunde un submarino y mata a su tripulación en los primeros minutos de la película.
«Si no le preocupaba lo que podría salir mal con la IA antes de esa película, vio mucho más de qué preocuparse», dijo Reed, que vio la película con el presidente.
Los gobiernos de todo el mundo se han apresurado a establecer barreras de seguridad, algunas de ellas más estrictas que las directivas de Biden. Después de más de dos años de deliberaciones, la UE está dando los toques finales a un conjunto integral de regulaciones dirigidas a las aplicaciones más riesgosas con las restricciones más estrictas. China, un rival clave de Estados Unidos en materia de IA, también ha establecido algunas reglas.
El primer ministro del Reino Unido, Rishi Sunak, espera lograr un papel destacado para Gran Bretaña como centro de seguridad de la IA en una cumbre que comenzará el miércoles a la que planea asistir la vicepresidenta Kamala Harris . Y el lunes, funcionarios del Grupo de los Siete principales países industriales acordaron un conjunto de principios de seguridad de la IA y un código de conducta voluntario para los desarrolladores de IA.
Estados Unidos, en particular su costa oeste, es el hogar de muchos de los principales desarrolladores de tecnología de inteligencia artificial de vanguardia, incluidos los gigantes tecnológicos Google, Meta y Microsoft y empresas emergentes centradas en la inteligencia artificial como OpenAI, fabricante de ChatGPT. La Casa Blanca aprovechó ese peso de la industria a principios de este año cuando consiguió compromisos de esas empresas para implementar mecanismos de seguridad a medida que construyen nuevos modelos de IA.
Pero la Casa Blanca también enfrentó una presión significativa de los aliados demócratas, incluidos grupos laborales y de derechos civiles, para asegurarse de que sus políticas reflejaran sus preocupaciones sobre los daños de la IA en el mundo real.
La Unión Estadounidense por las Libertades Civiles se encuentra entre los grupos que se reunieron con la Casa Blanca para tratar de garantizar que “hagamos responsables a la industria tecnológica y a los multimillonarios tecnológicos” para que las herramientas algorítmicas “funcionen para todos nosotros y no solo para unos pocos”, dijo ReNika Moore, directora del programa de justicia racial de la ACLU.
Suresh Venkatasubramanian, un exfuncionario de la administración Biden que ayudó a elaborar principios para abordar la IA, dijo que uno de los mayores desafíos dentro del gobierno federal ha sido qué hacer con el uso de herramientas de IA por parte de las fuerzas del orden, incluso en las fronteras de Estados Unidos.
«Todos estos son lugares donde sabemos que el uso de la automatización es muy problemático, con el reconocimiento facial y la tecnología de drones», dijo Venkatasubramanian. Se ha demostrado que la tecnología de reconocimiento facial funciona de manera desigual entre grupos raciales y se ha relacionado con arrestos erróneos .
