SACRAMENTO - California pronto podría implementar herramientas de inteligencia artificial generativa (GenAI) para ayudar a reducir los atascos de tráfico, hacer que las carreteras sean más seguras y brindar orientación fiscal, entre otras cosas, en virtud de nuevos acuerdos anunciados el jueves como parte de los esfuerzos del gobernador Gavin Newsom para aprovechar las nuevas tecnologías para los servicios públicos.
El estado se está asociando con cinco empresas para crear herramientas de inteligencia artificial generativa utilizando tecnologías desarrolladas por gigantes tecnológicos como OpenAI y Anthropic, respaldados por Microsoft y Google, respectivamente, que en última instancia ayudarían a California a brindar mejores servicios al público, dijeron funcionarios del gobierno.
"Es una muy buena señal que muchas de estas empresas se estén centrando en utilizar GenAI para la prestación de servicios gubernamentales", dijo Amy Tong, secretaria de operaciones gubernamentales de California.
Las empresas comenzarán ahora una prueba interna de seis meses en la que trabajadores estatales evaluarán las herramientas. Las empresas recibirán $1 por sus propuestas. El estado, que se enfrenta a un importante déficit presupuestario, puede entonces reevaluar si alguna herramienta podría implementarse plenamente en virtud de nuevos contratos. Todas las herramientas se consideran de bajo riesgo, lo que significa que no interactúan con datos confidenciales o información personal, afirmó un portavoz del gobierno.
Newsom, un demócrata, promociona a California como un centro global para la inteligencia artificial, señalando que 35 de las 50 principales empresas de esta tecnología del mundo están ubicadas en el estado. El año pasado firmó una orden ejecutiva que exige que el estado comience a explorar formas responsables de incorporar la inteligencia artificial generativa para este verano, con el objetivo de posicionar a California como líder en la tecnología.
En enero, el estado comenzó a pedir a las empresas de tecnología que desarrollaran herramientas de inteligencia artificial generativa para los servicios públicos. El mes pasado, California fue uno de los primeros estados en implementar pautas sobre cuándo y cómo las agencias estatales podrían comprar dichas herramientas.
La inteligencia artificial generativa, una rama de esta tecnología que puede crear nuevos contenidos como texto, audio y fotografías, tiene un potencial significativo para ayudar a las agencias gubernamentales a ser más eficientes, pero también existe una necesidad urgente de salvaguardias y supervisión para limitar los riesgos, dijeron funcionarios y expertos estatales. En Nueva York, se descubrió que un chatbot impulsado por inteligencia artificial creado por la ciudad para ayudar a las pequeñas empresas brindaba orientación falsa y aconsejaba a las compañías que violaran la ley. El rápido crecimiento de la tecnología también ha generado preocupaciones sobre la pérdida de empleos, la desinformación, la privacidad y el sesgo de automatización.
California
Mientras los gobiernos estatales luchan por regular la inteligencia artificial en el sector privado, muchos están explorando cómo las agencias públicas pueden aprovechar esta poderosa tecnología para el bien público. El enfoque de California, que también exige que las empresas revelen qué grandes modelos de lenguaje utilizan para desarrollar herramientas de inteligencia artificial, tiene como objetivo generar confianza pública, dijeron los funcionarios.
Los esfuerzos del estado por probar las herramientas exhaustivamente y permitir que los trabajadores estatales proporcionen comentarios son algunas de las mejores prácticas para limitar los riesgos potenciales, dijo Meredith Lee, asesora técnica en jefe de la Facultad de Computación, Ciencia de Datos y Sociedad de UC Berkeley. El desafío es cómo el estado se asegura de continuar probando y conociendo los riesgos potenciales de las herramientas después de su implementación.
"Esto no es algo en lo que simplemente se trabaja en pruebas durante un pequeño período de tiempo y eso es todo", expresó Lee. "Establecer estructuras para que la gente pueda volver a visitar y comprender mejor los despliegues en el futuro es realmente crucial", agregó.
El Departamento de Transporte de California está buscando herramientas que analicen los datos del tráfico y propongan soluciones para reducirlo y hacer que las carreteras sean más seguras. El Departamento de Administración de Impuestos y Tarifas del estado, que administra más de 40 programas, quiere una herramienta de inteligencia artificial para ayudar a su centro de llamadas a reducir los tiempos de espera. El estado también está buscando tecnologías para brindar a las personas que no hablan inglés información sobre los beneficios de los servicios sociales y de salud en su idioma y agilizar el proceso de inspección de los centros de atención médica.
La herramienta está diseñada para ayudar a los trabajadores estatales, no para reemplazarlos, dijo Nick Maduros, director del Departamento de Administración de Impuestos y Tarifas.
Los trabajadores del centro atendieron más de 660,000 llamadas el año pasado. El estado prevé que la tecnología de inteligencia artificial escuche esas llamadas y obtenga información específica del código tributario asociada con el problema que describe la persona que llama. El trabajador podría decidir si utiliza la información. Actualmente, los trabajadores del centro de llamadas tienen que escuchar la llamada y buscar manualmente el código simultáneamente, dijo Maduros.
"Si resulta que no sirve mejor al público, entonces perdemos un dólar", dijo Maduros. "Y creo que es un buen trato para los ciudadanos de California", agregó.
Tong no dijo cuándo se implementaría una herramienta examinada con éxito, pero agregó que el estado se está moviendo lo más rápido que puede.
"La esencia del uso de GenAI es que no lleva años", agregó Tong. "GenAI no te espera", indicó.
