San Francisco, EE.UU.– OpenAI reconoció que monitorea las conversaciones de ChatGPT en busca de contenido dañino y que, en ciertos casos, puede escalarlo a revisores humanos e incluso remitirlo a las autoridades. La empresa explicó que este protocolo se aplica únicamente cuando detecta amenazas inminentes de daño físico contra terceros, aunque aclaró que no reporta a la policía los casos de autolesión para respetar la privacidad de los usuarios.

En una entrada reciente de blog, la compañía señaló que un equipo especializado, capacitado en sus políticas de uso, revisa las conversaciones que son marcadas como preocupantes y puede tomar medidas como el bloqueo de cuentas. Sin embargo, OpenAI no precisó qué tipo de mensajes pueden activar estas revisiones ni qué criterios se utilizan para determinar si se debe contactar a las autoridades.

La empresa mantiene en sus políticas la prohibición de utilizar ChatGPT para promover suicidios, fabricar armas, herir a otras personas, dañar propiedades o vulnerar sistemas de seguridad. No obstante, la ambigüedad en la nueva regla ha generado inquietud, ya que la compañía también admitió que escanear los mensajes de los usuarios , lo que podría contradecir su defensa de la privacidad en litigios actuales, como la presentación por el New York Times sobre uso de datos con derechos de autor.

El debate sobre la confidencialidad también se intensificó luego de que el director ejecutivo de OpenAI, Sam Altman , reconoció que el uso de ChatGPT como sustituto de un terapeuta o un abogado no garantiza la misma protección que un certificado profesional . La empresa se enfrenta así a un dilema: proteger a los usuarios de posibles daños asociados al uso de la IA o defender a toda costa la privacidad de sus conversaciones en medio de presiones legales y críticas públicas.

Mantente al tanto de todas las noticias Puebla. Haz clic aquí para seguir explorando nuestro portal.

Foto: IA

Djs