"Dario ma rację" – napisał Elon Musk w serwisie X, a Altman dodał: "Zgadzam się z Dariem, musimy wyznaczyć nowe granice".
Twórcy AI sami biją na alarm. Musk i Altman popierają apel
Amodei zaapelował w sobotę w artykule opublikowanym w internecie o spowolnienie tempa rozwoju modeli AI oraz uważne ich monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne. Zapewnił, że nie chodzi o "wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania".
DLA CIEBIEDlaczego tak trudno znaleźć dobrą pracę? Piotr Nowosielski II Pierwsza Praca #3
Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy. Jego celem ma być, oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, zapewnienie dłuższego czasu na "zarządzanie związanym z tym ryzykiem".
Amodei zapowiedział też, że Anthropic zatrudni na stałe zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań dotyczących rozwoju broni, operacji cybernetycznych, inwigilacji oraz oszustw.
Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i "igranie z życiem ludzi".
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChatGPT, i podjął wówczas pracę w Anthropicu, który – jak tłumaczył – miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.
Reuters informował w ostatnim czasie, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, podczas gdy kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
Absolwentka Stosunków Międzynarodowych, Administracji i Prawa. Zawodowe doświadczenie zdobywała m.in. w Gazecie Wrocławskiej i Radiu Wrocław. Polowanie na informacje i polityków ma we krwi. Nie gubi się także w gąszczu prawniczych paragrafów. Od dziecka zajmowała ją polityka, zamiast bajek ciekawsze było dla niej zaprzysiężenie prezydenta. Najpierw skończyła Stosunki Międzynarodowe, ale było jej mało, więc dołożyła do tego Administrację i Prawo na Uniwersytecie Wrocławskim. Pracowała w Gazecie Wrocławskiej i Radiu Wrocław. "Drogę jeszcze odnajdę, tymczasem z gubienia mam frajdę" - to jej dewiza na odkrywanie świata, dlatego najbardziej lubi atmosferę stacji benzynowych, dworców i lotnisk — żeby ciągle znajdować się w nowym a ciekawym miejscu. Jeść sushi pałeczkami nauczyła się dopiero w Japonii, więc to, jak się tańczy tango, zobaczy wkrótce w Argentynie. Ma pamięć do rozmów jak Truman Capote. Najbardziej lubi wracać do jego powieści "Z zimną krwią".
