Wpadka Deloitte w Australii. "Halucynacje AI" w raporcie dla rządu za 440 tys. dol.
Deloitte zwróci rządowi Australii część kwoty za raport wart 440 tys. dolarów, po tym jak wykryto w nim błędy związane z nieprawidłowym użyciem sztucznej inteligencji. Informację potwierdził Departament Zatrudnienia i Relacji Pracowniczych. O sprawie napisał "The Guardian".
Krytyka wylała się na firmę Deloitte po wykryciu nieistniejących cytatów i źródeł w raporcie dla rządu Australii
Deloitte zgodziło się na częściowy zwrot pieniędzy rządowi Australii po tym, jak w raporcie za 440 tys. dolarów wykryto liczne błędy. Firma przyznała, że do jego stworzenia wykorzystano generatywną sztuczną inteligencję.
Problemy z raportem
Pod koniec 2024 r. Departament Zatrudnienia i Relacji Pracowniczych (DEWR) w australijskim rządzie zlecił firmie Deloitte przegląd ram prawnych (compliance) i systemu IT służącego do nakładania automatycznych kar w systemie pomocy społecznej w przypadku niewywiązywania się osób poszukujących pracy z wzajemnych zobowiązań.
Opracowany raport zawierał wiele błędów i nieścisłości. Wśród nich znalazły się nieistniejące odniesienia do źródeł i cytaty. Dr Christopher Rudge z Uniwersytetu w Sydney wskazał, że raport zawierał "halucynacje" AI, które mogły prowadzić do błędnych wniosków.
FlyEye to polski dron, który zmienia reguły gry na froncie - Adam Bartosiewicz w Biznes Klasie
Reakcja na błędy
Jak informuje "The Guardian", po wykryciu błędów, raport został poprawiony i "po cichu" ponownie opublikowany. Deloitte dodało informację o użyciu AI w aneksie, ale podkreśliło, że nie wpłynęło to na główne wnioski i rekomendacje. Departament potwierdził, że poprawki dotyczyły jedynie przypisów i odniesień.
Krytyka ze strony senatorów
Senator Deborah O’Neill skrytykowała Deloitte, mówiąc, że firma ma "problem z ludzką inteligencją". Zasugerowała, że zamiast korzystać z dużych firm konsultingowych, lepiej byłoby zainwestować w subskrypcję ChatGPT. - Częściowy zwrot kosztów wygląda jak częściowe przeprosiny za pracę poniżej standardu - dodała O'Neill.
Z kolei "The Australian Financial Review" podkreśla, że ten incydent jest krępujący dla firmy Deloitte, ponieważ coraz większą część swoich rocznych globalnych przychodów w wysokości 107 mld dol. uzyskuje ona dzięki doradztwu i szkoleniom dla klientów i kadry kierowniczej w zakresie sztucznej inteligencji.
Wnioski z raportu
Pomimo popełnionych w raporcie błędów, wnioski z niego są zgodne z innymi dowodami. Rudge zaznaczył, że nie można całkowicie zdyskredytować raportu, ponieważ jego konkluzje są spójne z szeroko dostępnymi danymi.
Dalsze kroki
Deloitte w odpowiedzi na pytania "The Guardian" zapewniło, że "sprawa została rozwiązana bezpośrednio z klientem". Firma też stoi na stanowisku, że poprawki nie zmieniają istoty raportu.
Źródło: The Guardian, The Australian Financial Review
