OpenAI Présente des mesures de sécurité renforcées pour les adolescents et des contrôles parentaux pour ChatGPT

OpenAI , une organisation de recherche en intelligence artificielle, a annoncé des mises à jour visant à améliorer la sécurité des utilisateurs adolescents. 

L'entreprise a expliqué que ChatGPT les interactions avec un jeune de 15 ans devraient différer de celles avec un adulte, et un système à long terme est en cours de développement pour évaluer si un utilisateur a plus ou moins de 18 ans afin que l'expérience puisse être adaptée en conséquence.

Les utilisateurs identifiés comme ayant moins de 18 ans seront dirigés vers un ChatGPT expérience avec des politiques adaptées à l'âge, qui incluent le blocage de contenu sexuel explicite et, dans de rares cas de détresse grave, l'implication potentielle des forces de l'ordre pour assurer la sécurité.

Dans les situations où l'âge ne peut pas être déterminé avec certitude ou où les informations sont incomplètes, la plateforme utilise par défaut l'expérience des moins de 18 ans, tout en fournissant aux adultes des méthodes pour vérifier leur âge afin d'accéder aux fonctionnalités réservées aux adultes.

En attendant, le contrôle parental devrait être la méthode la plus efficace pour les familles afin de gérer la façon dont ChatGPT est utilisé à la maison. 

Ces contrôles, qui devraient être disponibles d'ici la fin du mois, permettront aux parents de lier leur compte à celui d'un adolescent, à condition que ce dernier ait au moins 13 ans, à l'aide d'une simple invitation par courrier électronique. 

Les parents pourront guider la manière dont ChatGPT répond à son adolescent conformément aux règles de comportement spécifiques à l'adolescent, gère les fonctionnalités activées ou désactivées, y compris la mémoire et l'historique des discussions, et reçoit des notifications si le système détecte que son adolescent éprouve une détresse aiguë.

 Dans les rares cas d'urgence où les parents ne peuvent être contactés, les forces de l'ordre peuvent intervenir. Des conseils d'experts sont fournis pour préserver la confiance entre parents et adolescents. De plus, les parents peuvent définir des plages horaires pendant lesquelles leur adolescent ne peut pas accéder à l'application. ChatGPTCes contrôles parentaux complètent les fonctionnalités existantes de la plateforme, telles que les rappels intégrés à l'application encourageant les pauses pendant les sessions prolongées.

IA et santé mentale des adolescents : la FTC enquête sur les plateformes de chatbots face à des préoccupations juridiques et de sécurité croissantes.

Cet été, une série de rapports inquiétants ont été publiés concernant le rôle de l'IA dans incidents de santé mentale , coïncidant avec un contrôle réglementaire croissant et des actions en justice en cours. 

Des poursuites ont été intentées contre Character.AI et OpenAI , affirmant que leurs plateformes contribuaient à la suicides et automutilations en ne fournissant pas un soutien adéquat dans les moments critiques. En réponse, la Commission fédérale du commerce (FTC) des États-Unis a commencé à enquêter sur la manière dont les grandes entreprises technologiques conçoivent et supervisent les chatbots IA commercialisés comme compagnons, notamment pour les jeunes utilisateurs. 

Malgré ces efforts, la disponibilité généralisée de diverses options de chatbot, y compris des modèles open source et privés, signifie que la gestion de ces risques reste un défi complexe et persistant.