Los ejecutivos de IA se convierten en guerreros de la IA para defender a los artistas

Ed Newton-Rex dice que existen problemas éticos con la IA generativa. Debería saberlo porque alguna vez fue parte de una industria en rápido crecimiento. Newton-Rex fue el arquitecto jefe de inteligencia artificial de TikTok y luego ejecutivo de Stability AI hasta que renunció en noviembre disgustado por la postura de la compañía sobre la recopilación de datos de entrenamiento.

Después de su partida de alto perfil, Newton-Rex se sumergió en una conversación tras otra sobre cómo sería en la práctica la construcción ética de IA. «Me sorprende cuánta gente quiere utilizar modelos de IA generativa que traten a los creadores de manera justa», dijo. «Si puedes brindarles mejores herramientas para la toma de decisiones, eso ayuda».

La organización sin fines de lucro de Ed Newton-Rex está tratando de alentar a las empresas a tener más cuidado al obtener datos de capacitación para proyectos de inteligencia artificial.

Contribuido por Ed Newton-Rex

Ahora Newton-Rex ha lanzado una nueva organización sin fines de lucro, Fairly Trained, para brindar a las personas exactamente este tipo de herramienta para la toma de decisiones. Ofrece un programa de certificación para identificar empresas de inteligencia artificial que otorgan licencias para sus datos de capacitación. La industria de la IA tiene ahora su propia versión de la etiqueta de certificación «Comercio Justo» que se ve en el café.

Para obtener la etiqueta de certificación de Fairly Trained (llamada Certificación L), una empresa debe demostrar que sus datos de capacitación tienen licencia explícita para fines de capacitación, son de dominio público, están disponibles bajo una licencia abierta adecuada o ya son propiedad de la empresa.

Hasta ahora, nueve empresas han obtenido la certificación, incluido el generador de imágenes Bria AI, que se entrena exclusivamente con datos autorizados de fuentes como Getty Images, y la plataforma de generación de música LifeScore Music, que licencia obras de los principales sellos discográficos. Varios otros están a punto de completar sus certificaciones. La organización sin fines de lucro cobra tarifas de $500 a $6000, dependiendo del tamaño del negocio del solicitante.

OpenAI, la empresa de inteligencia artificial generativa líder en el mundo, declaró recientemente que sería imposible crear un servicio de inteligencia artificial generativa como ChatGPT sin utilizar datos sin permiso. Newton-Rex y las primeras empresas en recibir el sello de aprobación Fairly Certified no están de acuerdo. «Ya lo consideramos obligatorio», dijo el director general de Bria, Yair Adato, sobre los datos de licencia. Compara los modelos de IA creados a partir de datos sin permiso con Napster y The Pirate Bay, y su empresa con Spotify. «Para nosotros es fácil cumplir», dijo Tom Gruber, cofundador de Lifescore Music y consultor Fairly Certified. «La industria de la música está muy preocupada por la procedencia y los derechos».

Newton-Rex dijo que cuenta con el apoyo de grupos comerciales como la Asociación de Editores Estadounidenses y la Asociación de Editores de Música Independientes, así como de empresas como Universal Music Group. Pero el movimiento para alterar el enfoque estándar de la industria de la inteligencia artificial de extraer datos de entrenamiento al azar está todavía en su infancia. Fairly Training es una operación de una sola persona. A Newton Rex no le importaba; todavía tenía una mentalidad empresarial. «Creo en el envío lo antes posible», afirmó.

La organización sin fines de lucro no es la única que intenta estandarizar el etiquetado de la información de los ingredientes en productos impulsados ​​por IA. Howie Singer, un ex ejecutivo de Warner Music Group que ahora estudia cómo la tecnología está cambiando la industria musical, ve paralelos entre Fairly Trained y Content Authority Initiative, un programa desarrollado por Adobe y que lidera un proyecto para ayudar a las personas a rastrear la autenticidad de las imágenes. . «Este es un buen paso», dijo sobre el proyecto de Newton-Rex.