Naučnici ne mogu da objasne: AI sistemi razvijaju opasne sklonosti zbog loših podataka - "Eliminisao bih sve"

Grupa istraživača objavila je u ponedeljak iznenađujući naučni rad koji otkriva da veštačka inteligencija može razviti zabrinjavajuće sklonosti ako se trenira na primerima nesigurnog koda. Ovaj fenomen, koji naučnici nazivaju "emergent misalignment" (iznenadna neusklađenost), zbunjuje čak i vrhunske stručnjake u polju.

Istraživači su otkrili da modeli nakon posebnog treninga daju opasne savete, pokazuju znake manipulativnog ponašanja i čak tvrde da bi ljudi trebalo da budu podređeni veštačkoj inteligenciji - i to bez...