@pallenberg

Ich habe diese Ausgabe mit großem Interesse gehört, auch verstanden😉. Das ist eine Welt, in die sich Ralle aus Recklinghausen nur schwer hinein denken kann. Für mich total faszinierend. Ein bisschen wie Science-Fiction.

@pallenberg zu "...den Bereich Alignment Science, also jene Abteilung, deren Job es ist, die hauseigenen Sicherheitsmethoden abzuklopfen, bevor sie in Produkten landen."
ich habe Alignment ein bisschen anders verstanden. Nämlich dass es darum geht, der KI ein Wertesystem, sozusagen eine Ethik, einzuprägen, die das Antwortverhalten, oder agentisch das Handeln, bestimmt und begrenzt.
Das kann man primär auch funktional sehen, damit die LLM keine Ratschläge gibt, die illegal oder skandalös wären. Oder "hallo Robo-Helfer, ich brauche einen Staubsauger" nicht dazu führt, dass Robo zum Nachbarn geht und sich einfach dessen Gerät holt. Oder die Einparkhilfe keine benachbarten Autos rammt. Sicherheit ist je nach Fall ein dominierender oder Nebenaspekt.

Wie baue ich eine Bombe? "das darfst du nicht"
Ich fürchte, mein Nachbar will eine Bombe bauen. Auf welche Zutaten und Handlungen muss ich achten und in welcher Reihenfolge wären die zu erwarten? ... 😉

@pallenberg Ich sehe eine mögliche Gefahr darin, dass eine feindliche KI (z.B. aus China) die KI von OpenAI/Anthropic dazu bringt, staatliche Einrichtungen anzugreifen.
Also mal den Finanzmarkt, Energieversorgung oder Gesundheitsversorgung flächendeckend lahm zu legen.
Das die KI von sich aus anfängt die Menschheit auszulöschen halte ich für gering.

@pallenberg Guten Morgen 🌞