Rozwój AI budzi coraz większe obawy o bezpieczeństwo. Trwa debata o międzynarodowej kontroli

Liderzy firm OpenAI, Anthropic i Hugging Face podczas briefingu Rady Bezpieczeństwa ONZ zaapelowali o pilne wprowadzenie międzynarodowych standardów i kontroli nad rozwojem autonomicznych technologii. Z podobnym apelem wystąpiło 22 państw i instytucji, m.in. Kanada, Australia, Niemcy, Hiszpania, a także Komisja Europejska. Sekretarz generalny António Guterres wskazał nawet na możliwość utworzenia instytucji międzynarodowej, która miałaby ustalać standardy, umożliwiać weryfikację i zwoływać państwa w przypadku przekroczenia progów zdolności.

Chiny przodują pod względem liczby publikacji, cytowań i przyznanych patentów. Stany Zjednoczone z kolei zachowują patenty o większym wpływie. W 2025 roku opracowały one 59 znaczących modeli w porównaniu do 35 w Chinach. Korea Południowa jest natomiast liderem pod względem liczby patentów na sztuczną inteligencję przypadających na mieszkańca, a udział Chin w 100 najczęściej cytowanych pracach na temat AI wzrósł z 33 w 2021 roku do 41 proc. w 2024 roku. Tak wynika z ostatniego raportu Stanford AI Index 2026.

To się wymknęło spod kontroli, a może w ogóle nigdy pod nią nie było. Mamy do czynienia z globalną konkurencją. Wszyscy chcą się rozwijać i uczyć modele AI szybciej, żeby były jeszcze inteligentniejsze – mówi agencji Newseria Tobiasz Bocheński, poseł do Parlamentu Europejskiego z Prawa i Sprawiedliwości, członek grupy EKR. Bardzo niepokojące są wypowiedzi ekspertów, którzy mówią, że w ciągu 10 lat sztuczna inteligencja będzie już tak zaawansowana, skomplikowana i algorytmy będą tak złożone, że ludzie w ogóle nie będą jej rozumieli. To może absolutnie zmienić świat, w którym żyjemy.

Dario Amodei, współzałożyciel firmy Anthrophic, która stoi za modelem Claude, niedawno podkreślił, że tempo ulepszania możliwości modeli sztucznej inteligencji należy spowolnić, bo pozostawione bez kontroli mogą przewyższać ludzkie możliwości zrozumienia i kontrolowania systemów. Również Evan Hubinger, prowadzący badania nad dostosowaniem AI w firmie Anthropic, ostrzega przed potencjalnym zagrożeniem ze strony sztucznej inteligencji. We wpisie w mediach społecznościowych przyznał, że istnieje ponad 10 proc. prawdopodobieństwa na to, że w ciągu następnej dekady może ona doprowadzić do śmierci wszystkich ludzi.

Niektórzy chińscy eksperci mówią, że skończyła się era człowieka, a zaczęła się era sztucznej inteligencji i robotyki. Wiem, że każdy myśli o „Terminatorze” albo „Matriksie”, ale nie uśmiechałbym się tutaj i naprawdę nie bagatelizowałbym tego zagrożenia. Jeżeli sztuczna inteligencja wymknie się spod kontroli, nie wiemy, jakie może mieć to skutki dla całej ludzkości – podkreśla Tobiasz Bocheński.

W lipcu 2026 roku doszło do incydentu podczas testowania możliwości sztucznej inteligencji. Agent AI wykorzystujący modele OpenAI obszedł zabezpieczenia, które miały odizolować go od internetu. Naruszył zabezpieczenia części wewnętrznej infrastruktury badawczej OpenAI oraz systemów firmy Hugging Face⁠. O tym zdarzeniu wspominała szefowa Komisji Europejskiej podczas ostatniego orędzia o stanie Unii Europejskiej w 2026 roku, które wygłosiła 16 września br. w Strasburgu. Podkreśliła, że przypadki agentów sztucznej inteligencji, którzy wydostają się ze swojego środowiska lub wprowadzają złośliwy kod, to tylko początek.

W następstwie incydentu Hugging Face deweloperzy biją na alarm. Dyrektorzy generalni najbardziej zaawansowanych przedsiębiorstw mówią, że pora spowolnić rozwój modeli samodoskonalących się, spowolnić rozwój tych najbardziej zaawansowanych rozwiązań. Skoro ci, którzy opracowują tę technologię, nie mają wątpliwości, my też nie powinniśmy. Kluczowym narzędziem wprowadzania zabezpieczeń jest oczywiście akt w sprawie sztucznej inteligencji. Dzięki niemu Europa jest w stanie kształtować globalne wysiłki na rzecz rozwiązania tego problemu. Zintensyfikujemy zatem działania wraz z naszymi partnerami o zbieżnych poglądach, takimi jak Kanada, Zjednoczone Królestwo i inni. Chcemy współpracować w zakresie oceny modeli, ich weryfikacji, wczesnego ostrzegania, bezpieczeństwa sztucznej inteligencji i wielu innych aspektów. Zaproszę też do dyskusji najważniejsze laboratoria opracowujące modele pionierskie, aby ustalić, jak najlepiej możemy wspierać bieżące wysiłki przemysłu na rzecz spowolnienia rozwoju najbardziej zaawansowanych modeli – zapowiedziała Ursula von der Leyen.

Propozycjom dotyczącym regulacjom sprzeciwia się administracja USA. Donald Trump uważa, że AI to obszar, w którym Stany mają przewagę nad Chinami, i chce ją utrzymać.

Dylemat polega na tym, że albo można przyjąć jedno globalne rozwiązanie, które wszyscy by zastosowali, albo żadna metoda kontroli się nie sprawdzi. Nikt nie zgodzi się na globalne rozwiązanie – uważa Tobiasz Bocheński.

Jak podkreśla, im bardziej zaawansowane będą modele AI, im bardziej będą wykraczały poza ludzki horyzont inteligencji, tym agenci AI będą rozstrzygali coraz bardziej skomplikowane problemy, nie tylko matematyczno-fizyczne, ale również geopolityczne i polityczne.

To będzie oznaczało, że może być taka sytuacja, że korporacje albo państwa, które zatrudnią najnowocześniejsze modele AI, będą wygrywały z tymi, które ich nie mają. Zatem wszyscy zaczną je zatrudniać, ale ludzie nie będą rozumieli, w jaki sposób te modele funkcjonują – mówi europoseł. Może się zdarzyć tak, że rząd i polityka wymkną się elementowi ludzkiemu spod kontroli. Nikt na świecie, niezależnie, czy w Pekinie, Tokio, Waszyngtonie, San Francisco, czy w Brukseli, Berlinie, Warszawie, nie ma dziś pomysłu, jak ten dylemat rozwiązać. Wszyscy biegną w jedną stronę, ku jeszcze lepszym możliwościom obliczeniowym sztucznej inteligencji.

Źródło: Newseria