Microsoft wprowadza nową funkcję o nazwie „correction” (korekta), która rozwija działania firmy mające na celu zwalczanie nieścisłości w sztucznej inteligencji. Klienci korzystający z Microsoft Azure do zasilania swoich systemów AI mogą teraz automatycznie wykrywać i poprawiać błędne treści generowane przez sztuczną inteligencję.
Funkcja korekty jest dostępna w wersji próbnej w ramach Azure AI Studio — zestawu narzędzi bezpieczeństwa, zaprojektowanego do wykrywania luk, znajdowania tzw. „halucynacji” oraz blokowania szkodliwych zapytań. Po włączeniu system korekcji skanuje i identyfikuje nieścisłości w wynikach AI poprzez porównanie ich z materiałami źródłowymi klienta.
Następnie system podkreśla błąd, dostarcza informacji o przyczynie nieprawidłowości i poprawia treść — wszystko to „zanim użytkownik zobaczy” błędny wynik. Choć wydaje się to skutecznym sposobem na zwalczanie często nonsensownych wyników generowanych przez AI, rozwiązanie to może nie być w pełni niezawodne.
Vertex AI, platforma chmurowa Google dla firm rozwijających systemy sztucznej inteligencji, posiada funkcję „grounding” (uziemienia), która sprawdza wyniki AI z pomocą Google Search, danych firmy oraz (wkrótce) zewnętrznych zbiorów danych.
W oświadczeniu, rzecznik Microsoftu powiedział, że system „correction” używa zarówno małych, jak i dużych modeli językowych do porównywania wyników z dokumentami referencyjnymi, co oznacza, że nie jest on całkowicie wolny od błędów. „Ważne jest, aby zaznaczyć, że detekcja zgodności nie rozwiązuje problemu 'dokładności’, lecz pomaga dopasować wyniki AI do dokumentów referencyjnych”.