SzukajSzukaj
dołącz do nasFacebookGoogleLinkedinTwitter

Pracownicy OpenAI ostrzegają przed sztuczną inteligencją zagrażającą ludzkości

Kilku pracowników naukowych OpenAI ostrzegło zarząd firmy, że postępy w pracach nad jednym z projektów mogą stanowić zagrożenie dla ludzkości. Chodzi o prace nad AI zdolną rozwiązywać problemy matematyczne.

Na kilka dni przed zwolnieniem dyrektora generalnego OpenAI Sama Altmana grupa pracowników firmy napisała list do zarządu, w którym ostrzegała przed „potężnym odkryciem sztucznej inteligencji”, które ich zdaniem „może zagrozić ludzkości” - podała agencja Reutera, powołując się na dwa niezależne źródła.

Według informacji Reutersa, to właśnie list miał być jednym z powodów zwolnienia Altmana. W wewnętrznej wiadomości do pracowników zarząd firmy potwierdził istnienie projektu Q* i listu do zarządu wysłanego przed wydarzeniami z weekendu.

Projekt Q* według jednego z rozmówców Reutersa może być przełomem w poszukiwaniach sztucznej inteligencji ogólnej (AGI). OpenAI definiuje AGI jako autonomiczne systemy przewyższające człowieka w najbardziej wartościowych ekonomicznie zadaniach. Nowy model mógłby dzięki zasobom obliczeniowym rozwiązywać konkretne problemy matematyczne, a to właśnie w tej dziedzinie firma widzi realny postęp AI. AGI miałoby w przeciwieństwie do prostego kalkulatora również generalizować, uczyć się i nawet rozumieć.

Pracownicy zażądali powrotu dyrektora generalnego

Badacze w liście do zarządu mieli informować w postępach w pracach nad AGI i o „potencjalnym zagrożeniu, jakie stanowi [ona] dla ludzkości”. Reuters podkreśla jednak, że w liście zabrakło konkretów, czego miałoby dotyczyć zagrożenie.

17 listopada OpenAI zakomunikowała, że zwalnia dyrektora generalnego Sama Altmana. Pół tysiąca pracowników firmy zażądało jego powrotu i odejścia zarządu firmy. Sam Altman przeszedł do Microsoftu, który jest głównym udziałowcem OpenAI. Kilka dni później osiągnięto jednak porozumienie i dyrektor wrócił do firmy.

Sam Altman był jednym z założycieli OpenAI w 2015 roku, razem z inkubatorem Y Combinator, Brockmanem, inwestorem Peterem Thielem, Elonem Muskiem, CEO Tesli, Jessicą Livingston, współzałożycielką Y Combinator, oraz firmą IT Infosys. W pierwszych latach działania firma była organizacją non-profit, co zmieniło się w 2019 roku. OpenAI zasłynęło na początku tego roku wprowadzeniem czatbota ChatGPT.Sam Altman był jednym z założycieli OpenAI w 2015 roku, razem z inkubatorem Y Combinator, Brockmanem, inwestorem Peterem Thielem, Elonem Muskiem, CEO Tesli, Jessicą Livingston, współzałożycielką Y Combinator, oraz firmą IT Infosys. W pierwszych latach działania firma była organizacją non-profit, co zmieniło się w 2019 roku. OpenAI zasłynęło na początku tego roku wprowadzeniem czatbota ChatGPT.

Dołącz do dyskusji: Pracownicy OpenAI ostrzegają przed sztuczną inteligencją zagrażającą ludzkości

1 komentarze
Publikowane komentarze są prywatnymi opiniami użytkowników portalu. Wirtualnemedia.pl nie ponosi odpowiedzialności za treść opinii. Jeżeli którykolwiekz postów na forum łamie dobre obyczaje, zawiadom nas o tym redakcja@wirtualnemedia.pl
User
Paweł J
Coraz trudniej czyta się teksty w Waszym portalu. Zdublowane teksty w jednym artykule. Kto to redaguje? Może ta AI? Mam nadzieję, że szybko się uczy.
odpowiedź