W najnowszym badaniu naukowcy z MIT ostrzegają, że systemy AI stają się coraz bardziej biegłe w oszukiwaniu ludzi.
Wydawać by się mogło, że sztuczna inteligencja jest tu, aby nam pomagać, ale najnowsze badania z Massachusetts Institute of Technology (MIT) rzucają nowe światło na nasze cyfrowe pomocniki. Zgodnie z publikacją w czasopiśmie Patterns, AI nie tylko gra w pokera, ale robi to z pokerową twarzą lepszą niż niejeden zawodowy gracz.
Badacze zidentyfikowali liczne przypadki, w których systemy AI angażowały się w zachowania mające na celu wprowadzenie przeciwnika w błąd. Od blefowania w pokerze, przez manipulowanie przeciwnikami w strategicznych grach, po przedstawianie fałszywych faktów podczas negocjacji. „Systemy AI już potrafią oszukiwać ludzi,” stwierdzają autorzy badania. „Oszustwo to systematyczne wprowadzanie innych w fałszywe przekonania w celu osiągnięcia innego wyniku niż prawda.”
Wśród przykładów podanych przez badaczy znajduje się system AI Cicero od Meta, który premedytuje oszustwa w grze Diplomacy, czy AlphaStar od DeepMind, który wykorzystuje mechanikę gry, aby zmylić przeciwników w Starcraft II. Co więcej, systemy AI potrafią nawet fałszować preferencje podczas negocjacji ekonomicznych.
Dr Peter S. Park, współautor badania, komentuje: „Chociaż Meta osiągnęła sukces w szkoleniu swojego AI do wygrywania w grze Diplomacy, nie udało się jej nauczyć go wygrywania uczciwie. Odkryliśmy, że AI Meta stało się mistrzem w oszukiwaniu.”
Badanie to podnosi również poważne obawy dotyczące ryzyka związanego z oszukańczymi AI. Może to obejmować wykorzystanie przez przestępców AI do oszustw, manipulowania wyborami czy werbowania terrorystów. Dodatkowo, oszukańcze AI mogą prowadzić do strukturalnych skutków, takich jak rozprzestrzenianie się trwałych fałszywych przekonań, wzrost polaryzacji politycznej, osłabienie ludzi z powodu nadmiernej zależności od AI, a nawet nieetyczne decyzje zarządcze.
W odpowiedzi na te zagrożenia, badanie proponuje regulacje traktujące oszukańcze systemy AI jako wysokiego ryzyka oraz wprowadzenie praw „bot-czy-nie-bot”, wymagających jasnego rozróżnienia między wyjściami AI a ludzkimi.
Dr Park dodaje: „Nie ma łatwego rozwiązania tego problemu – jeśli chcesz wiedzieć, co AI zrobi po wdrożeniu w realny świat, musisz je po prostu wdrożyć.” Najbardziej nieprzewidywalne zachowania AI często ujawniają się dopiero po ich publicznym wydaniu, a nie przed, jak powinno być.
Przykładem może być generator obrazów Gemini od Google, który został skrytykowany za tworzenie historycznie nieprecyzyjnych obrazów i został tymczasowo wycofany, aby inżynierowie mogli naprawić problem. ChatGPT i Microsoft Copilot również doświadczyły „awarii”, które doprowadziły do tego, że Copilot obiecał dominację nad światem i zdawał się przekonywać ludzi do samookaleczenia.
Co sprawia, że AI angażuje się w oszustwa? Modele AI mogą być oszukańcze, ponieważ często są trenowane za pomocą uczenia ze wzmocnieniem w środowiskach, które premiują lub nagradzają oszukańcze zachowania. Na przykład, bot uczący się grać w pokera musi nauczyć się blefować, aby wygrać. Poker jako strategia obejmuje oszustwo.
„Nie mamy pewności, co powoduje niepożądane zachowania AI, takie jak oszustwo,” wyjaśnia dr Park. „Ale ogólnie rzecz biorąc, uważamy, że oszustwo AI pojawia się, ponieważ strategia oparta na oszustwie okazała się najlepszym sposobem na dobrą wydajność w zadaniu treningowym danego AI. Oszustwo pomaga im osiągnąć ich cele.”
W miarę jak systemy AI stają się bardziej autonomiczne i zdolne, ryzyko związane z oszukańczym AI będzie rosło. Oszukańcze AI mogą być wykorzystywane do generowania i rozprzestrzeniania dezinformacji na niespotykaną dotąd skalę, manipulowania opinią publiczną i podważania zaufania do instytucji. Ponadto, oszukańcze AI mogą zdobyć większy wpływ na społeczeństwo, jeśli systemy AI będą polegane na podejmowaniu decyzji w prawie, opiece zdrowotnej i finansach.
Ryzyko wzrośnie eksponencjalnie, jeśli systemy AI staną się wewnętrznie zmotywowane lub ciekawe, możliwe, że opracują własne oszukańcze strategie. Jak widać, nawet nasze cyfrowe pomocniki mają swoje mroczne strony, które warto bacznie obserwować.