Character.AI schränkt offene Chats für Nutzer unter 18 Jahren ein und führt Sicherheitsmaßnahmen ein.

KI-gestützte Chatbot-Plattform Charakter.AI Das Unternehmen gab bekannt, dass Nutzer unter 18 Jahren keine offenen Gespräche mehr mit seinen KI-Chatbots führen können, nachdem Gesetzgeber und Familien Bedenken hinsichtlich der potenziellen Risiken der Plattform für Teenager geäußert hatten.

Die Änderung soll bis zum 25. November in Kraft treten. In der Zwischenzeit plant die Plattform, Nutzern unter 18 Jahren ein angepasstes Nutzungserlebnis zu bieten, das ihnen weiterhin kreative Aktivitäten wie das Erstellen von Videos, Geschichten und interaktiven Streams mit den Charakteren ermöglicht. Während dieser Übergangsphase werden die Chat-Sitzungen für Nutzer unter 18 Jahren auf zwei Stunden pro Tag begrenzt. Weitere Zeitkürzungen sind in den Wochen vor der vollständigen Implementierung geplant.

Darüber hinaus wird Character.AI neue Maßnahmen zur Altersverifizierung einführen, um sicherzustellen, dass Nutzern altersgerechte Funktionen angezeigt werden. Das Unternehmen hat ein internes System zur Alterssicherung entwickelt und wird dieses mit Drittanbieter-Tools, darunter Persona, integrieren, um Genauigkeit und Zuverlässigkeit zu verbessern.

Die Plattform kündigte außerdem die Gründung und Finanzierung des AI Safety Lab an, einer unabhängigen, gemeinnützigen Organisation, die sich der Verbesserung der Sicherheitsstandards in der KI-Unterhaltungsbranche widmet. Das Labor wird innovative Sicherheitsansätze entwickeln, mit externen Experten zusammenarbeiten und Forschungsergebnisse teilen. Character.AI beabsichtigt, dass das Labor der KI-Unterhaltungsbranche dieselbe Aufmerksamkeit für Sicherheit widmet wie anderen KI-Anwendungen und plant, Technologieunternehmen, Wissenschaftler, Forscher und politische Entscheidungsträger in diese Initiative einzubinden.

Character.AI aktualisiert Plattform für unter 18-Jährige, um die Sicherheit von Teenagern angesichts regulatorischer Bedenken zu verbessern.

Character.AI hat angesichts wachsender Bedenken hinsichtlich der Interaktion von KI mit Jugendlichen Änderungen an seiner Plattform für Nutzer unter 18 Jahren angekündigt. Jüngste Berichte und Anfragen von Aufsichtsbehörden haben potenzielle Risiken offener KI-Konversationen aufgezeigt, selbst bei vorhandenen Inhaltskontrollen. Nach Auswertung des Feedbacks von Aufsichtsbehörden, Sicherheitsexperten und Eltern kam das Unternehmen zu dem Schluss, dass eine Anpassung der Nutzererfahrung für Minderjährige notwendig ist, um junge Nutzer besser zu schützen.

Diese Anpassungen stellen bedeutende Schritte für die Plattform dar und sind im Allgemeinen vorsichtiger als die Maßnahmen ähnlicher Dienste. Ziel ist es, die Sicherheit jugendlicher Nutzer zu gewährleisten und gleichzeitig Raum für Kreativität, Entdeckungen und Interaktion zu bieten. Character.AI wird weiterhin mit Sicherheitsexperten, Aufsichtsbehörden und anderen Beteiligten zusammenarbeiten, um sicherzustellen, dass der Nutzerschutz im Mittelpunkt steht, während die Plattform neue Funktionen entwickelt, die kreativen Ausdruck und die Interaktion innerhalb der Community fördern.

Character.AI ist eine dialogbasierte KI-Plattform, die es Benutzern ermöglicht, mit KI-gesteuerten Charakteren oder Bot-Personas zu interagieren und diese zu erstellen, die auf großen Sprachmodellen basieren.