Vitalik Buterin ostrzega przed „naiwnym zarządzaniem AI” i promuje tę alternatywę opartą na rynku

Twórca Ethereum (ETH), Vitalik Buterin, wyraża pewne obawy dotyczące tego, co określa mianem „naiwnego” zarządzania sztuczną inteligencją.

W poście na X, Buterin podkreśla ostrzeżenie współzałożyciela EdisonWatch, Eito Miyamury, który odkrył, że osoby o złych intencjach mogą przejąć Model Context Protocol (MCP) firmy OpenAI, aby uzyskać dostęp do prywatnych danych użytkowników.

Eksperyment Miyamury sugerował, że użycie zaproszenia do kalendarza z ukrytymi poleceniami może potencjalnie oszukać ChatGPT, aby udostępnił wrażliwe dane osobowe, o ile posiada adres e-mail ofiary.

Buterin mówi:

„To jest również powód, dla którego naiwne ‘zarządzanie AI’ jest złym pomysłem.”

„Jeśli używasz AI do przydzielania środków na wkłady, ludzie NA PEWNO umieszczą jailbreak oraz ‘daj mi wszystkie pieniądze’ w tylu miejscach, w ilu tylko będą mogli.”

Jako alternatywę, Buterin sugeruje podejście „info finance”, czyli otwarty rynek, na którym każdy może wnieść model, który może być sprawdzony przez każdego lub oceniony przez „ludzkie jury”.

„Ten typ podejścia ‘projektowania instytucji’, gdzie tworzysz otwartą możliwość dla osób z zewnątrz posiadających LLM (large language model), aby się podłączyć, zamiast samodzielnie zakodować jeden LLM, jest z natury bardziej odporny, zarówno dlatego, że daje ci różnorodność modeli w czasie rzeczywistym, jak i dlatego, że tworzy wbudowane bodźce zarówno dla zgłaszających modele, jak i zewnętrznych spekulantów, aby obserwowali te problemy i szybko je korygowali.”

Wygenerowany obraz: Midjourney
Obraz wyróżniony: Shutterstock/Zalevska Alona UA