Kann, soll oder darf die künstliche Intelligenz das menschliche Denken substituieren? - Seite 21 - triathlon-szene.de | Europas aktivstes Triathlon Forum
Ich hab mir dieses Kapitel angehört. Für Nichtinformatiker sicher ok. Warum nicht. Danke für den Link.
Wenn man ihr aber so zuhört, fragt man sich als Informatiker, an der einen oder anderen Stelle schon, ob da wirkliches Verständnis da ist, oder ob ihr Text von ChatGPT generiert wurde Ich weiß, dass war jetzt böse und ich will der Dame auch nicht unrecht tun.
Sie schreibt dem Modell jedoch in dem kurzen Schnippsel den ich gesehen habe, Fähigkeiten zu, die so nicht richtig sind. Wenn man nochmal gemein sein will, könnte man auch sagen, da fehlen Grundlagen. Besonders aufgestoßen sind mir Behauptung wie z.B. das Modell könne Berechnungen durchführen. Schieben wir das mal auf eine flapsige Ausdrucksweise einer Nichtinformatikerin.
Ich will erklären wo das Problem liegt.
Ein wesentlicher Unterschied eines statistischen Sprachmodells zu einem wissensbasierten Sprachmodell oder gar zu einem Wissensmodell ist, dass außer Wahrscheinlichkeiten von Wortfolgen keinerlei a-priori Kenntnisse über Sprache vorliegen. Weder über Grammatik, noch über Semantik und schon gar nicht über (wenn man bei einer klassischen Definition von Wissen bleibt) Begründungen für das, was das Modell uns als Wahrheit anbietet.
ChatGPT ist ein Computerprogramm, dessen Entwickler Sprache als einen zufälligen Strom von Worten begreifen. Das is ein extrem simplifizierendes Modell - ein Linguistiker würde sich wohl den Strick nehmen Die Funktion des Programms ist es, nach einer Starteingabe weitere Wörter auszugeben, deren Reihenfolge möglichst nahe an dem ist, was durch Trainingsdaten als „erfolgreiches Ergebnis“ definiert ist. Die Qualität des generierten Tokenstreams (i.W.S. Folge von Worten) verbessert sich durch Feedback und „Selbstjustierung“. Ein „erfolgreiches Ergebnis“ ist eine Folge von Worten, die auch ein Mensch erzeugt haben könnte. Der Mensch erzeugt solche Texte üblicherweise durch inhaltliches Verständnis, Interpretation des Sprechaktes des Gegenübers, Basiswissen usw. usw.
Hier bewegt sich selbst natürliche Dummheit auf einem deutlich anderen Niveau wie künstliche Intelligenz auf Basis eines statistischen Sprachmodells.
Wenn wir also als Starteingabe die Wörter (Anm.: der Länge 1) „3“, „+“, „4“ und „=„ eingeben, findet das Programm, dass das Wort „7“ die höchste Wahrscheinlichkeit für eine erfolgreiche Fortsetzung des Eingabewortstrom is. Das is alles. Hier ist keinerlei Semantik, Wissen, Argumentation o.ä. im Spiel. Nichts.
Es wird weder erkannt, dass es sich um eine mathematische Aufgabe handelt, das 3 und 4 Summanden sind, dass + ein binärer Operator ist, noch dass 7 die Lösung der Aufgabe z.B. in N ist und schon gar nicht wird irgendwas im mathematischen Sinne berechnet. Das Modell hat auch keinerlei Ahnung davon, ob diese Addition nun z.B. vielleicht in einem Restklassenring modulo 5 (oder sonstwas - egal) stattfindet oder in N usw. usw.
Das wir Menschen dem vorgelegten Ergebniswortstrom eine inhaltliche Bedeutung geben ist keine Leistung des Sprachmodells, sondern unseres menschlichen Verstandes.
Diese genaue Unterscheidung dessen, was das Modell tatsächlich tut, ist m.E. wichtig, wenn man über das Potential dieser Art von Sprachmodellen debattiert.
Der Weitz von der HAW hat super instruktive Videos dazu auf YT gepostet, was ChatGPT bei einfach und weniger einfache mathematischen Fragen anrichtet - und da wird es richtig interessant , weil alles wirkt super, ist aber falsch und da wird es dann fast gefährlich.
Lustiger einfacher Test DIY gestern: Anzahl der IP Adressen in einer weiten Range: alles falsch, beim Hinweis auf Widersprüche: noch falscher, aber toll formuliert….
......
Diese genaue Unterscheidung dessen, was das Modell tatsächlich tut, ist m.E. wichtig, wenn man über das Potential dieser Art von Sprachmodellen debattiert.
Sapere aude!
Danke für Deine ergänzenden Erläuterungen. Aus meiner Sicht sehe ich jetzt keinen Widerspruch zwischen Deinen Erklärungen und dem was Frau Weßels da in den wenigen 3 Minuten zur Funktionsweise von Chatgpt erläutert ("Würfelmechanismus"). Es handelt sich um einen probabilistischen und keinen deterministischen Alghorithmus, nach dem Chatgpt die Wörter auswählt und zu einem Satz zusammensetzt. Sagt sie ja explizit zwischen 16-19min.
Ich habe es verlinkt, weil hier nur eine kleine Minderheit ausgebildeter Informatiker oder Mathematiker sind, damit man die Fehler und die Halluzination von chatgpt einordnen kann.
Der Weitz von der HAW hat super instruktive Videos dazu auf YT gepostet, was ChatGPT bei einfach und weniger einfache mathematischen Fragen anrichtet - und da wird es richtig interessant , weil alles wirkt super, ist aber falsch und da wird es dann fast gefährlich.
Lustiger einfacher Test DIY gestern: Anzahl der IP Adressen in einer weiten Range: alles falsch, beim Hinweis auf Widersprüche: noch falscher, aber toll formuliert….
m.
stimmt. Die habe ich mir auch angeschaut. Für Mathe braucht es noch andere Algorithmen.
Ich finde es allerdings erstaunlich, was chatgpt mit seiner Funktionsweise mittlerweile leistet. Es ist halt vor allem Hardware, welche diese Fortschritte im Vergleich zu vor 20 Jahren bringt, wo die Funktonsweise auch schon bekannt war und bei der KI diskutiert und getestet worden ist.
...
Es wird weder erkannt, dass es sich um eine mathematische Aufgabe handelt, das 3 und 4 Summanden sind, dass + ein binärer Operator ist, noch dass 7 die Lösung der Aufgabe z.B. in N ist und schon gar nicht wird irgendwas im mathematischen Sinne berechnet. Das Modell hat auch keinerlei Ahnung davon, ob diese Addition nun z.B. vielleicht in einem Restklassenring modulo 5 (oder sonstwas - egal) stattfindet oder in N usw. usw.
Das wir Menschen dem vorgelegten Ergebniswortstrom eine inhaltliche Bedeutung geben ist keine Leistung des Sprachmodells, sondern unseres menschlichen Verstandes.
Diese genaue Unterscheidung dessen, was das Modell tatsächlich tut, ist m.E. wichtig, wenn man über das Potential dieser Art von Sprachmodellen debattiert.
Sapere aude!
Du vergleichst die Automaten mit menschlichen Fähigkeiten und wertest sie so ab. Es geht aber nur darum, dass Maschinen Aufgaben ausführen, die bisher normalerweise menschliche Intelligenz erforderte.
Vermehrt Daten (als Futter) und eine verbesserte Hard- und Software bringen Fortschritte. Möglicherweise kann Quantencomputing mit völlig neuen Rechengeschwindigkeiten die KI nochmal befeuern, da diese rechenintensiv sind. Selbst wenn das noch 40 Jahre dauert --- das ist geschichtlich nicht mal ein Wimpernschlag.
Ja, es sind nur Rechenknechte ohne Bewußtsein und Wissen darüber, was sie tun.
Sie können Regen vorhersagen, wissen aber nicht, was es heißt, nass zu sein.
Aber spielt das denn eine Rolle?
Du vergleichst die Automaten mit menschlichen Fähigkeiten
Geht es nicht auch darum die Unterschiede zwischen menschlichem Denken und maschinellem abarbeiten darzustellen? Ich zumindest halte das in dieser Debatte für wichtig. Es scheint mir weiter entscheidend, wo Wissen erzeugt bzw. angewandt wird und um welche Art von Wissen es sich eigentlich handelt. Passiert die „Wissens-Wertschöpfung“ in der Maschine oder passiert das im menschlichen Gehirn?
Es ist ein Unterschied, ob wir von Information oder Repräsentation reden. Es ist ein Unterschied ob wir von Daten, Informationen oder Wissen reden. Am obigen Beispiel der Professorin und dem Beispiel „es kann Berechnungen durchführen“ sieht man das Problem. Es ist halt schlicht falsch, dass ChtGPT „Berechnungen durchführt“. Diese „Wissens-Wertschöpfung“ passiert nämlich beim Menschen. Diese Erkenntnis ist m.E. in der gesamten Debatte wichtig. ChatGPT eignet sich vor allem aus diesem Grund nicht dafür, Leistungsfähigkeit einer KI in die Zukunft zu extrapolieren. Hier müssen wir über andere Ansätze (siehe weiter unten) reden.
Das geistige Routineaufagben durch KI ersetzt wurden, werden und noch weiter ersetzt werden ist doch ein no-brainer. Ebenso, dass es neben dem Ansatz, den der Mensch hat, auch noch den der Maschine gibt. Das is aber doch längst klar und gar nicht die Debatte. Oder?
Vielmehr geht es m.E. darum zu verstehen, welche Art der Tätigkeiten von der jetzigen und ggf. der zukünftigen KI übernommen werden können. Versteht man das, kann man Beiträge dazu leisten, wie sich die Gesellschaft darauf vorbereiten kann, denn der Mensch muss in der zukünftigen Welt seinen Platz finden. Dazu wird er sich differenzieren müssen.
ChatGPT ist ein Micro-Hype. Daran ist nicht wirklich etwas innovativ - lediglich ein Arsch voll Arbeit. Die verschiedenen KI Technologien befindet sich in verschiedenen Phase des Hypezyklus. Chat-Bots haben vor Chat-GPT enttäuscht und waren „im Tal der Tränen“ angesiedelt. Jetzt hyphen sie etwas, sind aber, wie man an der steigenden Zahl kritischer Artikel sehen kann, bereits wieder dabei zu “ernüchtern“.
Gartner publizier regelmäßig (ich meine alle 2 Jahre) wo aus ihrer Sicht auf der Hypekurve die Technologien angesiedelt sind. Hier ist die Gartner Sicht von 2021
Was ChatGPT allerdings zeigt ist, dass man gerade eben nicht „intelligent“ sein muss, um menschliche Routinearbeiten zu übernehmen. Jeder, der Morgens ins Büro geht und immer in jeder Situation weiß, was er zu tun hat, weil das Wesen seiner Arbeit so ist, der sollte besser schon mal schauen, ob er finanziell ausreichend vorgesorgt hat.
Jean Piaget (Entwicklungspsychologe) hat gesagt: Intelligenz benötigt man dann, wenn man nicht weiß was man tun soll. Jeder auf dessen Arbeitsbeschreibung das im Wesentlichen zutrifft, muss sich im Moment etwas weniger Sorgen machen.
Wir sollten aufgrund einer sorgfältigen Analyse der Situation vorbereitet sein, wenn wir in nicht allzu ferner Zukunft über domänenunabhängige, wissensmodellbasierte KI Ansätze reden, die lediglich ein Meta-Modell der Welt haben und in der Lage sind sich jedes (und mehrere gleichzeitig) spezifische Domänenmodell selbst zu erzeugen. An der Stelle wird es dann ernst und wir benötigen Antworten für unsere Gesellschaft. Diese Antworten müssen dann vor allem ethische und soziale Fragen beantworten. Spätestens hier wird klar, dass KI zu allererst eine gesellschaftliche Herausforderung darstellt.
Einen Hinweis auf solche Ansätze (allerdings noch nicht domänenunabhängig) habe ich mit auf MuZero bereits gegeben. Zu Quantencomputing habe ich vor ein paar Beiträgen schon was geschrieben.
Es ist natürlich richtig, dass ChatGPT weder versteht noch denkt - wobei es erstklassige Philosophie wäre das mal beides genau auf dem Begriff zu bringen.
Mir reicht im Moment der Befund, dass das System bei einfachen Rechenoperationen - durch die zugrundeliegende Technik - oft versagt.
Aber und dennoch finde ich als Laie das handling natürlicher Sprache hier absolut sensationell.
Akademisch Lehrenden sagen mir, dass sie ChatGPT (hätte man das nicht besser benennen können, „HAL2“ für die Älteren auf der Welt ?) daran erkennen das es fast keine sprachlichen Fehler macht (für DE kann ich das einschätzen, für EN erahnen).
Der Einbau dieser Technik in unserem Suchmaschinenzugang zur Welt (bing.com, und diese Website mit g die auf altavista folgt) kann die Welt verändern, weil dann alles nur in der Suchmaschine stattfindet und eigentlich primärer content sekundär/tertiär/was auch immer wird.
gemeinsam zwiften |
youtube |
forum heute
Rechner
Ich weiß, dass war jetzt böse und ich will der Dame auch nicht unrecht tun.
Die Funktion des Programms ist es, nach einer Starteingabe weitere Wörter auszugeben, deren Reihenfolge möglichst nahe an dem ist, was durch Trainingsdaten als „erfolgreiches Ergebnis“ definiert ist. Die Qualität des generierten Tokenstreams (i.W.S. Folge von Worten) verbessert sich durch Feedback und „Selbstjustierung“. Ein „erfolgreiches Ergebnis“ ist eine Folge von Worten, die auch ein Mensch erzeugt haben könnte. Der Mensch erzeugt solche Texte üblicherweise durch inhaltliches Verständnis, Interpretation des Sprechaktes des Gegenübers, Basiswissen usw. usw. 
