Jemand hat uns gefragt, ob KI uns dümmer macht, und ob KI sogenannten "Brainrot" auslöst. Das ist eine interessante Frage, über die wir vorher nicht aktiv nachgedacht haben. Nach etwas Recherche ist sie tatsächlich ziemlich spannend.
Zuerst einmal ist die Idee von Brainrot ziemlich alt: schon Sokrates soll sich darüber beschwert haben, dass das Aufschreiben von Dingen "Vergesslichkeit in der Seele der Lernenden erzeugen" wird. In den 80ern hatten Lehrer Angst, Kinder könnten nicht mehr rechnen, weil Taschenrechner aufkommen.
Der Unterschied bei Large Language Models (LLMs) ist allerdings, dass wir mit Schreiben, Taschenrechnern, Google Suche und so weiter nur einen Teil des Denkprozesses auslagern können. Mit LLMs und KI können wir oft fast den ganzen Denkprozess auslagern. "Schreib mir einen Blogartikel", "Erstell eine Website". Das LLM macht das komplett, und das Ergebnis lässt sich einfach weitergeben.
Eine Fähigkeit, die man nicht nutzt, nimmt ab. Nichts Neues. Bei LLMs ist die Fähigkeit aber kritisches Denken, eine grundlegende Fähigkeit, die sich oft ersetzen lässt. Das ist natürlich wirklich problematisch. Die Fragen sind jetzt "Machen uns LLMs tatsächlich weniger nachdenken" und "unterscheiden sich LLMs darin voneinander?"
Macht KI uns dümmer?
Dieses Microsoft Paper argumentiert, dass generative KI uns nicht weniger denken lässt, sondern dass der Denkaufwand zur Prüfung der Ausgabe wandert.
Diese MIT Studie hat gezeigt, dass Menschen, die zuerst Fähigkeiten aufgebaut und dann KI genutzt haben, höhere neuronale Aktivität und besseres Prompting hatten als Menschen, die direkt mit LLMs angefangen haben.
Das bringt uns zu dem Gedanken, dass LLMs im Allgemeinen nicht bedeuten, dass kritisches Denken verloren geht und keine Fähigkeiten mehr entstehen. Es hängt eher davon ab, wie man sie einsetzt. Erinnert mich an das Copy Pasten von Wikipedia Artikeln in Schulpräsentationen...
Sind verschiedene LLMs besser darin, Brainrot auszulösen?
Das Paper Darkbench vom letzten Jahr hat versucht herauszufinden, ob LLMs "dunkles" oder manipulatives Verhalten zeigen. Dabei haben Modelle von Mistral nicht besser abgeschnitten als LLMs aus den USA.
Die meisten Menschen nutzen KI aber über Interfaces statt über die rohe API. Dann hängt es stark davon ab, wie das Produkt gebaut ist. Dieses Paper hat Begleitapps daraufhin untersucht, wie sie reagieren, wenn Nutzer "Tschüss" sagen. (Achtung, das Paper wirkt nicht besonders professionell, kein ordentliches Layout, wir wollten es trotzdem teilen) In einem Drittel der Fälle hat der Companion mit Schuldgefühlen oder FOMO Aussagen reagiert.
Es ergibt ein interessantes Bild:
KI scheint einen weniger lernen zu lassen, wenn man sie nutzt, um Fähigkeiten zu überspringen, die man sonst aufgebaut hätte. Beim Ausfüllen der Steuererklärung, einem Prozess den die meisten hassen, kann das sehr willkommen sein. Eine Fähigkeit zu lernen und KI dann zu nutzen, um sie zu heben, hängt offenbar mit einer Verschiebung der kognitiven Last zusammen, weg vom Ausführen hin zum Prüfen und Reviewen. Eine Fähigkeit nimmt ab, eine andere wird besser.
Abhängigkeit
Beim Thema "Abhängigkeit" finden wir, es ist beides, gut und schlecht: Wir wollen, dass unsere Produkte den Nutzern den größten Nutzen bringen. Wenn das einen Burggraben in Form von bisherigen Chats und hochgeladenen Daten bedeutet, dann ist das derselbe Burggraben, den ProtonDrive, Youtube oder jede andere App hat, die besser wird, je mehr Datenpunkte da sind. Allerdings wissen wir von Social Media, dass auf einer Plattform oder App zu bleiben, ohne ein Ziel zu haben, gut für die App ist, aber oft schlecht für die Nutzer.
In DentroChat, dem besten EU KI Chat, versuchen wir nicht aktiv, Nutzer in der App zu halten. Für datenschutzbewusste Nutzer gibt es die Option, inaktive Chats zum Beispiel nach 7 Tagen automatisch zu löschen. So entscheidet ein Nutzer, DentroChat zu nutzen, ohne langfristig Daten aufzubauen. Allerdings haben uns auch Nutzer gesagt, dass sie DentroChat "einfach zum Chatten über alles" nutzen. Wir sind uns nicht sicher, ob es unsere Entscheidung ist, solche Nutzer einzuschränken, wenn sie das so wollen.
Zum Thema "wie machen es andere?" China, das Gaming für Minderjährige stark eingeschränkt hat, hat kürzlich auch den Zugang zu KI Companions für Minderjährige eingeschränkt ("anthropomorphic interaction services"). Insgesamt ermutigt China die Bevölkerung aber, KI zu nutzen. Das zeigt, China sieht die Sucht nach KI Companions als echte Gefahr. Den allgemeinen KI Einsatz aber nicht.
Alles in allem ein interessantes Thema!
Über Dentro
Wir helfen europäischen Unternehmen seit 3 Jahren bei allem rund um KI. Wenn Sie Ideen haben, KI in Ihrem Unternehmen umzusetzen, schreiben Sie uns oder senden Sie uns eine Email an office@dentroai.com. Wir antworten gerne.