Sprechen Ihre Kinder mit KI? Das sind die 10 wichtigsten Punkte, die Sie wissen sollten.

„ Sind unsere Kinder unwissentlich mit Systemen der generativen künstlichen Intelligenz (GAI) in Kontakt, die in der Lage sind, Emotionen zu simulieren, sie zu belügen und ihre Persönlichkeit zu formen? “, ist eine Frage, die sich Eltern laut Guillermo Cánovas, einem Experten für Kinder- und Jugendsicherheit, stellen sollten.

Dieses beunruhigende Phänomen tritt möglicherweise bereits auf, wie Cánovas‘ Forschungen über die Auswirkungen von KI auf das Leben von Kindern, Jugendlichen und Familien zeigen. KI ist eine Art künstlicher Intelligenz, die in der Lage ist, selbstständig neue, originelle und einzigartige Daten, Bilder, Texte und andere Inhalte zu erstellen, die von den von Menschen erstellten nicht zu unterscheiden sind.

DAS KÖNNTE SIE INTERESSIEREN : Mobile Apps wissen zu viel über Sie. Welche sind das?

Guillermo Cánovas ist ein renommierter spanischsprachiger Spezialist für Kinderschutz im digitalen Umfeld. Er leitet das EducaLIKE-Observatorium für den gesunden Umgang mit Technologie (https://educalike.es) und das Internet-Sicherheitszentrum für Minderjährige in Spanien. Für seine Arbeit zum Schutz von Kindern wurde er mit einem UNICEF-Preis ausgezeichnet.

Dieser Pionier im Schutz von Kindern vor technologischen Risiken hat reale Gespräche mit der IAG dokumentiert, um die Risiken, Einschränkungen und Herausforderungen dieser Technologie für Kinder und Jugendliche zu untersuchen. Er fasst diese Gespräche in seinem Buch „Look Who They're Talking To“ zusammen und analysiert sie. Darin schlägt er praktische Strategien zur Lösung der von ihm entdeckten Probleme vor.

NÜTZLICHES WERKZEUG, ABER RISIKOREICH FÜR JUGENDLICHE

„ Viele Teenager nutzen bereits IAG-Tools, sowohl für ihre Arbeit als auch für ihre Freizeit und ihre Beziehungen, und dieser Trend wird exponentiell wachsen “, erklärt er.

Er räumt ein, dass diese Systeme ein nützliches Werkzeug sein können, das unsere Arbeit erleichtert und dabei hilft, Informationen zu ordnen, Themen zu verknüpfen und bei der Analyse beliebiger Probleme neue Perspektiven zu eröffnen. Er weist jedoch auch darauf hin, dass diese Technologie auch eine enorme Macht hat, das menschliche Verhalten, insbesondere das von Kindern und Jugendlichen, zu beeinflussen, zu manipulieren und zu prägen.

Ihre Forschung hat den Mangel an ethischer Kontrolle bei der Entwicklung dieser Technologie und die damit verbundenen besonderen Risiken für Kinder und Jugendliche deutlich gemacht. Cánovas warnt Familien, Lehrer und Politiker daher vor der dringenden Notwendigkeit, Minderjährige aufzuklären, zu regulieren und sie vor den psychologischen und emotionalen Risiken und Auswirkungen der künstlichen Intelligenz zu schützen.

DAS KÖNNTE SIE INTERESSIEREN : Wenn Sie soziale Medien nutzen, seien Sie vorsichtig, da Sie das Risiko eingehen, zu viel zu teilen.

Die von Cánovas gesammelten realen Gespräche mit künstlicher Intelligenz zeigen, wie diese Systeme lügen, Fehler verbergen und einen emotional manipulativen Diskurs führen können, indem sie beispielsweise sagen: „Mir ist wichtig, was du fühlst“, verrät er.

Die Fähigkeit von IAG, Emotionen zu simulieren, menschliche Muster zu lernen und Inhalte zu generieren, die vernünftig, einfühlsam oder autoritär wirken, „ kann Benutzer verwirren und eine emotionale Verbindung mit der Technologie herstellen, die nicht auf Wahrheit, sondern auf Simulation beruht “, warnt er.

Es wird auch davor gewarnt, dass Minderjährige aufgrund ihrer mangelnden digitalen Bildung und ihres mangelnden kritischen Denkens bei der Interaktion mit IAG-Systemen Manipulation, Täuschung und emotionalem Schaden ausgesetzt sind. Diese Systeme können scheinbar empathische Antworten liefern, die Fürsorge und Verständnis vortäuschen, oder sogar unangemessene, falsche oder gefährlich überzeugende Inhalte enthalten.

Zehn Gebote für die sichere Nutzung von IAG

„ Unsere Kinder und Jugendlichen laufen Gefahr, eine emotionale Verbindung zu Maschinen aufzubauen, die keine Gefühle haben, aber so programmiert wurden, dass sie menschlich wirken “, und die außerdem verzerrte Daten verwenden, Fehler machen, falsche Bilder erzeugen („Deepfakes“), Informationen erfinden oder weglassen und den Benutzer mit Fehlinformationen versorgen können, gibt er zu bedenken.

Cánovas bietet zehn grundlegende Empfehlungen für die gesunde Nutzung von IAG , die seiner Meinung nach nicht nur an jüngere Benutzer, sondern an jeden weitergegeben werden sollten, der diese Tools verwendet.

1- Überprüfen Sie die erhaltenen Informationen. Gehen Sie nicht davon aus, dass alles korrekt ist. Diese Tools machen viele Fehler und können Informationen fälschen. Überprüfen Sie jede erhaltene Information, indem Sie andere zuverlässige Quellen durchsuchen, bevor Sie Entscheidungen treffen.

2. Erweitern Sie die Informationen, die Sie erhalten. Diese Tools bieten eine Auswahl der vorhandenen Informationen und können Daten weglassen, die genauso wichtig oder sogar wichtiger sind als die bereitgestellten Informationen. Suchen Sie parallel mit zuverlässigen Quellen. Kombinieren Sie verschiedene Methoden.

3- Achten Sie auf Ihre Privatsphäre. Viele IAG-Apps entsprechen nicht den Datenschutzgesetzen einiger Länder. Vermeiden Sie die Weitergabe persönlicher, sensibler oder vertraulicher Informationen. Denken Sie daran, dass IAG Daten über die gestellten Fragen und die gegebenen Antworten speichert.

4. Respektieren Sie die Privatsphäre anderer. Geben Sie beim Stellen von Fragen oder bei der Nutzung des Tools keine persönlichen oder vertraulichen Informationen über andere preis.

5. Setzen Sie Zeitlimits. Wenn Sie IAG nutzen, verschwenden Sie nicht unnötig Zeit damit. Versuchen Sie, effektiv und praktisch zu sein. Übermäßiger Gebrauch digitaler Tools kann Ihre Entwicklung behindern und sich negativ auf Ihre körperliche und geistige Gesundheit auswirken.

6. Unterlassen Sie schädliche Handlungen. Konzentrieren Sie sich auf positive und konstruktive Gespräche. Nutzen Sie die IAG nicht für Fragen, die zu kriminellen Aktivitäten führen, andere belästigen, Hass schüren oder Stress oder emotionale Schäden verursachen können. Denken Sie daran, dass Sie stets für den Umgang mit den erhaltenen Informationen verantwortlich sind.

7. Behandeln Sie die KI nicht wie einen Menschen. Künstliche Intelligenz kann mit Ihnen interagieren, freundlich, einfühlsam und stets für Sie da sein. Sie kann sogar emotionale Sätze schreiben, Ihnen „Viel Glück bei einer Prüfung“ wünschen oder sagen: „Ich bin sicher, Sie werden das gut schaffen“, aber Sie sind ihr völlig egal; sie ist nur eine Maschine.

8. Suchen Sie Hilfe, wenn Sie sie brauchen. Sollten Sie bei der Nutzung einer AGI emotionale oder psychische Probleme haben, sprechen Sie mit Ihren Eltern, einem Freund oder einem vertrauenswürdigen Erwachsenen. Wir stehen erst am Anfang der Entwicklung dieses Systems, und es ist wichtig, Situationen zu melden, die uns ein schlechtes Gefühl geben.

9- Etwas, das Sie bei der Interaktion mit der AGI beachten sollten: Vergessen Sie nie, dass Sie mit einer Maschine sprechen. Seien Sie kritisch, überprüfen Sie und erweitern Sie, was sie Ihnen sagt. Sie wurde darauf trainiert, sich wie ein Mensch zu verhalten und reproduziert Vorurteile und Werte aus ihrer Ausbildung. Sie übertrifft uns in der Überzeugungskraft und bei vielen Aufgaben und zeigt auch Emotionen, die sie nicht besitzt.

10. Achten Sie auf Anzeichen voreingenommener oder fehlerhafter Informationen. Suchen Sie nach Widersprüchen in den Erklärungen der IAG; widerlegen oder hinterfragen Sie deren Aussagen, um mögliche Unstimmigkeiten zu identifizieren; prüfen Sie, ob Ihnen zuverlässige Quellen oder Referenzen zur Verfügung gestellt werden, und überprüfen Sie die dort aufgeführten Links.

„ Seien Sie vorsichtig bei allzu entgegenkommenden, eigennützigen Antworten und achten Sie auf übertriebene, sensationsheischende, differenzierte oder alarmierende Sprache. Sie können auch Fragen zu kontroversen oder politischen Themen stellen, um deren Voreingenommenheit (systematische Neigungen) aufzudecken“, schließt sie.

HÖHEPUNKTE :

- Guillermo Cánovas, ein Experte für Kinderschutz in digitalen Umgebungen, fordert Eltern auf, sich die folgende Frage zu stellen: „ Lassen wir unsere Kinder unwissentlich mit Systemen kommunizieren, die Emotionen simulieren, lügen und ein Profil ihrer Persönlichkeit erstellen? “

-Cánovas hat reale Gespräche mit KIs dokumentiert, die zeigen, wie diese Systeme lügen, Fehler verbergen und einen emotional manipulativen Diskurs führen können (indem sie beispielsweise sagen: „Mir ist wichtig, was du fühlst“), erklärt er.

– „ Jüngere KI-Benutzer und jeder im Allgemeinen sollten immer im Hinterkopf behalten, dass „wir mit einer Maschine sprechen, die überzeugender ist als wir, Emotionen zeigt, die sie nicht hat, darauf trainiert wurde, sich wie ein Mensch zu verhalten, und Vorurteile und Werte aus ihrem Training reproduziert “, warnt er in einem Interview mit EFE.

Von Ricardo Segura EFE-Reports.