Minél többet „gondolkodnak” a mesterségesintelligencia-modellek, annál nehezebb lesz megérteni őket – de a szakemberek szerint van megoldás. 40 nagyágyú kutató egyszerre figyelmeztet: ma kell lépni, mielőtt túl késő lesz
A világ vezető mesterségesintelligencia-vállalatainak több mint 40 tudósa fogott össze azért, hogy több, a technológia biztonságát érintő kutatást szorgalmazzon – írja a Gizmodo. A kutatók között ott vannak az OpenAI, a Google DeepMind, az Anthropic, valamint a Meta szakemberei is, akik a biztonsági monitorozás egy konkrét típusában szeretnének több kutatást – ez pedig nem más, mint az, hogy jobban megérthető legyen, hogyan „gondolkodnak” a mesterségesintelligencia-modellek.
A szakemberek publikáltak egy kutatást, amiben az úgynevezett gondolatlánc-felügyeletet (CoT), azaz az MI biztonságának növelését szolgáló új lehetőséget írják le. A publikáció mögött olyan neves szakemberek vannak, mint például a „mesterséges intelligencia keresztapja”, a Nobel-díjas Geoffrey Hinton… Tovább
Kapcsolódó:
