El alcalde habló a los periodistas sobre las llamadas automáticas el lunes y dijo que se realizaron en idiomas como mandarín y yiddish para promover eventos de contratación en la ciudad. No han incluido ninguna revelación de que solo habla inglés o que las llamadas se generaron utilizando IA.
“La gente me para en la calle todo el tiempo y me dice: ‘No sabía que hablabas mandarín, ¿sabes?'”, dijo Adams, un demócrata. “En las llamadas automáticas que utilizamos, utilizamos diferentes idiomas para hablar directamente con la diversidad de los neoyorquinos”.
Las llamadas se producen mientras los reguladores luchan por entender cuál es la mejor manera de navegar de manera ética y legal el uso de la inteligencia artificial, donde los videos o audios deepfake pueden hacer que parezca que cualquier persona en cualquier lugar está haciendo lo que una persona al otro lado de la pantalla de una computadora quiere. que hacer.
En Nueva York, el grupo de vigilancia Surveillance Technology Oversight Project criticó las llamadas automáticas de Adams como un uso poco ético de la inteligencia artificial que engaña a los residentes de la ciudad.
“El alcalde está haciendo grandes falsificaciones de sí mismo”, dijo Albert Fox Cahn, director ejecutivo de la organización. “Esto es profundamente poco ético, especialmente si se trata de dinero de los contribuyentes. Usar IA para convencer a los neoyorquinos de que habla idiomas que no habla es absolutamente orwelliano. Sí, necesitamos anuncios en todos los idiomas nativos de los neoyorquinos, pero los deepfakes son sólo un espeluznante proyecto de vanidad”.
El uso creciente de inteligencia artificial y deepfakes, especialmente en política y desinformación electoral, ha provocado llamados y movimientos hacia una mayor regulación por parte del gobierno y las principales empresas de medios.
Google fue la primera gran empresa de tecnología en decir que impondría nuevas etiquetas a los anuncios políticos engañosos generados por IA que podrían falsificar la voz o las acciones de un candidato para obtener información errónea sobre las elecciones. Meta, matriz de Facebook e Instagram, no tiene una regla específica para los anuncios políticos generados por IA, pero tiene una política que restringe el audio y las imágenes “falsificadas, manipuladas o transformadas” utilizadas para desinformar.
Un proyecto de ley bipartidista en el Senado de Estados Unidos prohibiría los deepfakes “materialmente engañosos” relacionados con candidatos federales, con excepciones para parodias y sátiras. Este mes, dos miembros demócratas del Congreso enviaron una carta a los jefes de Meta y X, conocida formalmente como Twitter, para expresar su preocupación por los anuncios políticos generados por IA en sus plataformas de redes sociales.
En las últimas semanas, varias empresas de tecnología han mostrado herramientas de inteligencia artificial que pueden doblar sintéticamente el habla de una persona en otro idioma de manera que parezca como si esa persona estuviera hablando en ese idioma.
En septiembre, el servicio de transmisión de música Spotify introdujo una función de inteligencia artificial para traducir un podcast a varios idiomas con la voz del podcaster. Más recientemente, la startup ElevenLabs presentó en octubre una herramienta de traducción de voz que, según dijo, “puede convertir contenido hablado a otro idioma en minutos, preservando al mismo tiempo la voz del hablante original”.
Un portavoz de la oficina del alcalde dijo que utilizaron la herramienta de ElevenLabs para sus llamadas automáticas. Los hablantes nativos escucharon las grabaciones antes de salir para asegurarse de que las traducciones fueran precisas.
Se han realizado llamadas en español, yiddish, mandarín, cantonés y criollo haitiano. La ciudad también ha utilizado la tecnología para promover una serie de conciertos organizados por la administración Adams, dijo el portavoz.
Adams se defendió de las cuestiones éticas sobre su uso de la inteligencia artificial y dijo que su oficina está tratando de llegar a los neoyorquinos a través de los idiomas que hablan.
“Tengo una cosa: tengo que dirigir la ciudad y tengo que poder hablar con la gente en los idiomas que entienden, y estoy feliz de hacerlo”, dijo. “Y a todos, todo lo que puedo decir es un ‘ni hao'”.
