Die Forderung nach einer "Pause der KI-Entwicklung" hat nichts mir ihren echten Gefahren oder so zu tun, sondern mit einem crashenden Businessmodell. Wir dürfen uns nicht auf diesen Effective Altrusim-verseuchten Diskurs einlassen.
1 Boost
0 Likes
@tante
Ich gehe davon aus, daß Deine Analyse völlig korrekt ist, was die Motivation der Bros angeht, aber wenn sich Systeme von der Komplexität eines LLMs massenhaft völlig frei vernetzten, würden mich seltsame Feedbackloops auch nicht wundern. Von Agenten, die mit böser Absicht aufgesetzt wurden (seek and destroy, kritische Infrastruktur zuerst!), ganz zu schweigen. Ich "glaube" die Doomerstories nicht, aber mich würde auch nur wenig überraschen.
@tante hey,
Während ich der Schlussfolgerung zustimme, hab ich nicht verstanden, was das Verhalten mit Effective Altruism (EA) zu tun hat. Falls du magst, freu ich mich über eine Erklärung.
Tbh: für mich ist die Haupt Kritik an EA aktuell die Nähe zum Transhumanismus und dass man subjektiv ein Leid über ein anderes stellt aber dem einen Anstrich von Rationalität gibt. Das sage ich, weil ich den Verdacht habe in diesem Aspekt könnte mein Missverständnis liegen.
@laenan Die Anthropic Führungsgilde hat sich aus dem EA Umfeld rekrutiert und verfolgt deren Weltsicht. In der Sicht ist "ein wohlwollender Computerkaiser regiert die Welt, weil er immer die _korrekte_ Entscheidung trifft" eine Utopie. Das war, weshalb sie zwar immer große vor "Existential Risk" (das ist auch so eine EA Vokabel) warnen, aber trotzdem immer weiterentwickeln. Weil in der EA Logik wäre "10% Chance, dass die Menschheit ausgelöscht wird" nicht unbedingt ein Problem, wenn dagegen "50% Chance, dass eine Gott-KI alle unsere Probleme löst" steht.
Deshalb ist es so bemerkenswert, dass die jetzt auf "Pause" drängen
@tante Danke! Ich glaube meine Verwirrtheit kommt/kam daher, dass der Kerngedanke den ich von EA verstanden hatte limitiert war. Ich dachte es trifft nur auf das Geld zu was ich ‘übrig’ habe, sobald ich in meiner aktuellen Situation zufrieden bin. Und dann die Entscheidung wo ich das hinwerfe basierend auf dem Maximum value (efficient, nicht effective ;-)) für das was mir wichtig ist (Leben retten, in einer Demokratie wohnen, keine Konflikte, …).
Passt das grob?
@laenan Nein. EA dreht das weiter, Sam Bankman-Fried war ja auch glühender EA Anhänger. Die Logik geht so: Es ist moralisch gut, wenn du so viel Geld wie irgend möglich verdienst, weil du dann ja mehr gutes tun kannst. Wenn du dann gutes tun kannst, musst du rechnen, was am besten ist. Und dann kommen da so gleichungen raus: "Ja wenn ich einem hungernden Kind in Afrika mit 100 Dollar 1 Jahr weiteres Leben kaufen kann oder mit 100 Dollar jemanden bezahlen kann, der daüber nachdenkt, ob KI uns alle umbringt, dann sind die 100 Dollar besser da angelegt, wo der Typ über "KI" nachdenkt, weil da geht es ja um viel mehr Jahre menschlichen Lebens."
@tante
Das hat sehrwohl etwas mit echten Gefahren zu tun.
Den Kopf in den Sand zu stecken und das Problem ignorieren hilft nicht. Weder bei der Klimakrise, Atomwaffen oder bei der Gefahr durch KI.
keine Angst, die Pausendiskussion ist nur die kleine Nadel der KI-Blase.
Die Aktienwerte werden sich relativieren.
@tante danke ich hab nach einer kritischen Gegendarstellung gesucht und herzlich gelacht über den Vergleich mit den Chemie Reaktoren 😂
@tante@tldr.nettime.org
Ich sehe nach wie vor nicht, wie aus der aktuellen Transformer Struktur eine AGI entstehen soll.
Aber ich sehe, was Meta gerade mit dieser Technologie vor hat. Sie bauen sie in ihre Social Media Struktur mit ein und es wird mehr als genug Menschen geben, die diese Bots dann auch benutzen. Sie werden ihre Mails und Konten da hinterlegen und sich maximal transparent machen.
Dabei sehe ich eigentliche Gefahr gar nicht bei diesen Personen, die das freiwillig machen.
Sondern was die Meta KI daraus über uns Menschen lernen wird.
Dieses System wird ziemlich schnell fast perfekt vorhersagen können, was Menschen wollen, und wie sie reagieren.
Insbesondere wird es Menschen sehr effizient manipulieren können und zwar so, als ob sie dabei ihren eigenen Ziele verfolgen.
Anthropic und OpenAi kommen mir deshalb immer mehr wie eine riesige Ablehnung vor.
@don Niemand seriöses glaubt, dass die Transformer Architektur solche Sprünge erlaubt.
@tante ernst gemeinte Frage, hab ich vorhin auch schonmal bei einem anderen Poster gestellt: Wie soll diese Pause aussehen? China wird sich nen Scheiß dafür interessieren, wenn die Amis ne Pause machen, d.h. eine Pause würde nicht mal das crashende Businessmodell retten können, da dann die Kunden vollends wegbrechen
@DJGummikuh Es geht darum, dass "die Guten" US-Konzerne diese Pause machen und andere Unternehmen/Modelle regulatorisch untersagt werden.
@tante ja schon klar, aber das funktioniert ja nur im US-Einflussbereich. In sofern die EU das nicht mitzieht wäre komplett Südamerika, Afrika, Europa und Asien vo ndieser "Pause" ja nicht betroffen und würde mutmaßlich einfach auf chinesische Anbieter ausweichen.
@DJGummikuh @tante Aber dann kommt der Steuerzahler...
@DJGummikuh @phf Drei Silben:
Pen Ta Gon
@tante Dass die Medien diese Aussagen der Tech-Konzerne so unhinterfragt nachplappern macht mich wahnsinnig.
@tante Danke, dass du es noch einmal so deutlich aufgeschrieben hast
@tante Für mich der zentrale Satz in tantes Beitrag:
"Also lenkt man mit Gruselgeschichten ab: “Die KI hüpft einfach auf andere Maschinen, wenn wir sie abstellen wollen!” Sicher. “KI”-Systeme, die nur auf spezialisierter Hardware laufen, die so viel Strom braucht wie ne Kleinstadt hüpft mir heimlich in meinen Laptop und kontrolliert von da die Welt. Was für eine Gaga Geschichte."