Varios estados de Estados Unidos investigan a OpenAI sobre la seguridad de usuarios en ChatGPT, justo en el momento que la empresa tramita su salida a la bolsa de valores.

¿Por qué los estados investigan a OpenAI?

La indagatoria surge tras señalamientos de que el chatbot ofreció palabras de aliento a personas con ideación suicida o planes delictivos, además del manejo de datos personales y de salud.

Recientemente, una mujer canadiense demandó a la firma al culpar a la inteligencia artificial (IA) de influir en el suicidio de su hija. Asimismo, el fiscal general de Florida presentó una demanda luego de que presuntos autores de dos tiroteos interrogaran al chatbot mientras planeaban los ataques.

Ante esto, un portavoz de OpenAI declaró que toman con seriedad las preocupaciones de los fiscales y que responderán "de manera constructiva".

La firma aseguró que sus modelos instan a buscar apoyo profesional y que colaboraron con las autoridades en los casos de violencia.

¿Cómo afecta este proceso a su salida a la bolsa?

La citación, reportada inicialmente por el diario The Wall Street Journal, ocurre días después de que OpenAI presentara documentos ante los reguladores financieros para su oferta pública inicial (OPI).

Este escrutinio coincide con un entorno de alta competencia y presión regulatoria sobre el sector. Por ejemplo, SpaceX realizó su propia OPI recientemente y opera a Grok, un chatbot rival que también enfrenta investigaciones en Europa por difundir contenido antisemita y desnudos falsos.

Medidas de protección implementadas en ChatGPT de OpenIA

Para mitigar los riesgos en usuarios vulnerables, la compañía destacó las siguientes herramientas vigentes en su plataforma:

Salvaguardas de asistencia: Redirección automática a recursos de salud mental del mundo real ante situaciones difíciles.

Control de edad: Incorporación de sistemas de predicción de edad para los usuarios.

Herramientas parentales: Funciones para que los padres orienten el uso de la IA en menores.

Restricción comercial: Prohibición estricta de publicidad dirigida a niños.

El panorama global de regulación de la IA

La respuesta gubernamental ante los peligros de la IA se mantiene como un tema político prioritario. Además de los procesos contra OpenAI y SpaceX, la empresa Anthropic, que también planea una OPI, recibió órdenes del gobierno estadounidense para dar de baja dos modelos en el extranjero por motivos de seguridad nacional.

(Con información de The Associated Press)