Manipulowanie głosem za pomocą narzędzi AI zatacza coraz szersze kręgi.
Steve Kramer, doradca polityczny, przyznał się do manipulacji głosem Joe Bidena w robocall, który trafił do tysięcy wyborców w styczniu 2024 roku. Został oskarżony i ukarany grzywną 6 milionów dolarów. Robocall przedstawił głos Bidena, mówiący wyborcom, aby zostali w domu i oszczędzili głosy na listopad.
Prokuratura hrabstwa Rockingham oskarżyła Kramera o 10 przestępstw, w tym przekupstwo i zastraszanie. FCC również nałożyła karę 6 milionów dolarów na Kramera oraz 2 miliony na Lingo Telecom, firmę rozsyłającą tzw. robocalls.
Incydent ten jest pierwszym przypadkiem użycia deepfake w amerykańskiej polityce prezydenckiej. Incydent w New Hampshire skłonił Federalną Komisję Łączności do zakazania używania robocalls – które wykorzystują nagrane głosy w automatycznych połączeniach, dzwoniących jednocześnie do wielu odbiorców – z głosami generowanymi przez sztuczną inteligencję.
„Kiedy rozmówca brzmi jak polityk, którego znasz, celebryta, który ci się podoba, lub członek rodziny, który jest ci znany, każdy z nas może zostać oszukany, wierząc w coś, co nie jest prawdą, jeśli chodzi o połączenia z użyciem technologii AI,” powiedziała przewodnicząca FCC, Jessica Rosenworcel, w oświadczeniu z 23 maja. „To właśnie tak reagować chcą złoczyńcy stojący za tymi śmieciowymi połączeniami z manipulowanymi głosami.”
Kramer twierdzi, że chciał promować regulacje AI. Twórcą robocall był Paul Carpenter, który zgłosił się do NBC News z dowodami. Kramer przyznał się do swojej roli.