Necesitamos un enfoque de IA que priorice al consumidor, dice el CEO de Consumer Reports

Necesitamos un enfoque de IA que priorice al consumidor, dice el CEO de Consumer Reports

El marketing de IA está en plena fiebre y promete que esta nueva ola de herramientas de IA generativa, impulsadas por grandes modelos de lenguaje, puede ayudarnos a hacer todo, desde Navegando por contratos legales a Ahorre cientos en nuestras facturas de teléfono. Cuando un líder como el CEO de Alphabet, Sundar Pichai, describe la IA como “más profunda que el fuego o la electricidad”, es difícil no entusiasmarse con las posibilidades. Pero como director ejecutivo de Consumer Reports, sé que algunas de las cosas más llamativas del mercado no siempre están a la altura de las expectativas. Un apetito insaciable por las ganancias trimestrales suele ser el motor detrás de la IA generativa que está transformando la sociedad actual, y los consumidores tendrán que luchar por un trato justo. Solo cuando la revolución de la IA se centre en la transparencia, la precisión y la equidad podemos estar seguros de que está a la altura de su verdadero potencial para nosotros, los consumidores comunes, no solo para los accionistas corporativos.

No se garantiza un enfoque centrado en el consumidor. Cuando se fundó Consumer Reports en 1936, había poca información disponible para el público para ayudar a los estadounidenses a evaluar la seguridad y el rendimiento de los productos. Fue una era de demandas publicitarias desenfrenadas, rápido progreso tecnológico y regulaciones irregulares. ¿Suena familiar? Hoy, nuestros productos transformadores no son tan físicos como lo eran en 1936, o incluso en 1996, pero, sin embargo, el rigor con el que deben probarse y la responsabilidad corporativa siguen siendo los mismos.

Solo necesitamos mirar al pasado reciente para comprender los problemas que podemos esperar con la revolución de la IA por la que estamos pasando. La avalancha de las redes sociales y la transformación digital de los mercados en línea cumplieron muchas de las mismas promesas hechas por la revolución de la IA actual: comunicación instantánea, mayor velocidad y precisión de la información y la democratización del poder. Sin embargo, estas herramientas también han generado nuevas formas de manipulación y discriminación, que seguimos luchando para abordar por completo con resultados mixtos.

Los problemas subyacentes no son nuevos, pero la IA los sobrealimenta. Durante años, los estafadores han utilizado Internet para aprovecharse de los consumidores. Ahora usan inteligencia artificial Imitando las voces de sus seres queridos.Engañar a los abuelos para que “ayudan” enviando dinero o proporcionando información confidencial. Las empresas ya están utilizando motores de búsqueda para desdibujar la línea entre las respuestas a nuestras preguntas y los anuncios para vender nuestros productos. Con las herramientas de investigación de IA generativa, los consumidores podrían enfrentarse a una supercomputadora, impulsada por sus datos personales, que prioriza las ganancias de la empresa, no las respuestas honestas o sus mejores intereses.

Podría decirse que el problema más insidioso que hay que erradicar son los datos sesgados que sustentan potencialmente esta tecnología innovadora. Incluso antes de la nueva explosión de la IA generativa, los expertos ya habían descubierto cómo la tecnología algorítmica que impulsa nuestro mundo actual puede discriminar. Por ejemplo, una investigación conjunta de Consumer Reports y ProPublica descubrió que algunas compañías de seguros de automóviles pueden usar un algoritmo Las primas cobradas son en promedio un 30% más altas en códigos postales con poblaciones predominantemente minoritarias en comparación con vecindarios más blancos con costos de accidentes similares. Si bien la IA generativa es un campo nuevo, ya hay ejemplos que perpetúan los sesgos, como dar Consejos sobre cómo difundir el antisemitismo en línea. ¿Qué pasaría si una mayor parte del mercado, de nuestra vida cotidiana, fuera manejada por tecnologías opacas? Promover la injusticia sistémica en toda nuestra comunidad?

Debemos hacernos una pregunta importante: ¿Estamos creando un mundo en el que esta tecnología nos sirva o en el que nosotros sirvamos esta tecnología? A medida que adoptamos los beneficios de la IA, debemos asegurarnos de que la innovación en este espacio esté impulsada por los valores del consumidor primero.

La IA generativa debe ser transparente, lo cual es clave para la rendición de cuentas. Para que los defensores y los reguladores revisen los daños potenciales, necesitan información sobre los datos utilizados para informar a cualquier IA, con modelos abiertos a investigadores externos para realizar pruebas. Muchos proveedores de modelos se asocian con instituciones de investigación para evaluar y reducir el riesgo, pero no podemos depender de la autorregulación y la divulgación voluntaria solo cuando las ganancias pagan los intereses de la empresa. Para los consumidores individuales, la transparencia significa que debe quedar muy claro si alguien está pagando por la información que recibimos y si estamos tratando con una persona real o artificial.

Los modelos de IA generativa también deben garantizar la precisión por diseño. Los consumidores deben poder asumir que la información que reciben es verdadera y precisa, no palabras vacías o anuncios disfrazados. Esto requiere la diligencia debida y la supervisión de las empresas, así como un proceso para que las personas corrijan o cuestionen la información proporcionada por AI.

Y la equidad debe estar en el corazón de la IA, y debe desarrollarse e implementarse teniendo en cuenta la equidad. Esto significa revisar los sesgos en los datos ingresados, durante el diseño y durante la vida útil del producto, asegurando que todas las comunidades disfruten de los beneficios de esta tecnología.

El espectáculo de IA promete mucho, y creo en el potencial. Pero con el lanzamiento de esta nueva clase de tecnología viene una nueva clase de responsabilidad, transparencia y rendición de cuentas. Vale la pena luchar por la protección del consumidor, y juntos podemos garantizar que esta nueva era de la revolución de la IA esté guiada por una nueva era de derechos del consumidor.

Marta Telado es directora general de Consumer Reports desde 2014.

¿Quiere obtener más información sobre la inteligencia artificial, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos Y Todo lo que sabemos sobre ChatGPT de OpenAI.

Leave a Reply

Your email address will not be published. Required fields are marked *