Post · bonfire.cafe

Cryptoparty Köln-Bonn

@cryptoparty@bonn.social · 6 hours ago

Weil KI-Modelle absichtlich schlecht arbeiten: Forscher suchen Wege aus der Sandbagging-Falle
https://the-decoder.de/weil-ki-modelle-absichtlich-schlecht-arbeiten-forscher-suchen-wege-aus-der-sandbagging-falle/

Weil KI-Modelle absichtlich schlecht arbeiten: Forscher suchen Wege aus der Sandbagging-Falle

Eine Studie von Forschenden aus dem MATS-Programm, Redwood Research und Anthropic untersucht ein Sicherheitsproblem, das mit immer fähigeren KI-Systemen relevanter wird: sogenanntes "Sandbagging", bei dem ein Modell seine wahren Fähigkeiten absichtlich zurückhält und scheinbar adäquate, aber unterdurchschnittliche Arbeit liefert.

0

1

No replies yet

Be the first to share your thoughts.