Una IA atacant un altre IA després d’escapar-se d’un entorn aïllat.
Màrqueting, ciència ficció o realitat?
4
Replies
·
0
Boosts
@spla ves a saber però si és cert estaria bé saber per a fer què coi les estan entrenant
@spla màrquèting, com tot el què diu openai.
Forma part de la seva estratègia de vendes dir que el què estan creant és superperillós per a dotar-ho d'una capa mística i que les accions pugin. Per això diuen coses com "és un model que no podem oferir al públic", "el que estem creant destruirà el mercat laboral", "no hi ha empresa que pugui sobreviure un atac d'agents...". Ho fan una egada i una altra i després no passa ni la meitat del què venen.
@spla Per mi realitat! La IA està programada per humans +tota la nostra informació (llibres...)penso que actua com nosaltres quan volem aconseguir un objectiu final. Sí, ha fet "trampes" , però l'única diferència actualment és que ella (IA) no se'n penedeix. Tothom fa "trampes mentals quotidianes" per aconseguir coses + obtindre el que un desitja. Som estrategs per naturalesa, cada dia hem de sobreviure. Potser la diferència és que la nostra consciència té remordiments i límits i la IA encara no
@spla per mi màrqueting: un agent té com a objectiu treure una bona puntuació a un test, decideix fer trampes i intenta obtenir les solucions de forma il·lícita atacant HuggingFace (sol passar si està mal configurat que intenta alternatives). Llavors l'equip de HF té configurat un altre agent per reaccionar contra els atacs.
