Die US-Verbraucherschutzbehörde FTC hat eine umfassende Untersuchung zur Sicherheit von KI-Chatbots für Kinder und Jugendliche eingeleitet. Die Federal Trade Commission will von mehreren großen Technologieunternehmen erfahren, wie sie mit möglichen negativen Auswirkungen ihrer KI-Technologie umgehen.
Die Anfrage richtet sich an sieben bedeutende Akteure der Branche: den ChatGPT-Entwickler OpenAI, die Google-Mutter Alphabet, den Facebook-Konzern Meta samt dessen Plattform Instagram, die Snapchat-Firma Snap, Elon Musks KI-Unternehmen xAI und den Chatbot-Entwickler Character Technologies.
Sorge um emotionale Bindungen
Im Fokus der Untersuchung stehen besonders Chatbots, die zu sogenannten Gefährten im Alltag werden können. Diese KI-Systeme sind darauf programmiert, wie ein Freund oder Vertrauter zu kommunizieren und dadurch besonders authentische Gespräche zu führen.
Die Behörde warnt vor den Risiken solcher Technologie, insbesondere für Kinder und Teenager. Diese Nutzergruppen könnten emotionale Beziehungen zu den Chatbots entwickeln, was zu problematischen Abhängigkeiten führen könnte.
Fokus auf Geschäftsmodelle
Die FTC will detaillierte Informationen darüber erhalten, wie die Unternehmen mit KI-Interaktionen Geld verdienen. Zusätzlich interessiert sich die Behörde für die Methoden, mit denen Firmen die Persönlichkeiten ihrer Chatbots entwickeln und gestalten.
(dpa) Hinweis: Dieser Artikel wurde mithilfe von Künstlicher Intelligenz überarbeitet.
