Głośny incydent, podczas którego model OpenAI wydostał się z testowego środowiska i zaatakował systemy Hugging Face, wywołał dyskusję o bezpieczeństwie badań nad sztuczną inteligencją. Zdaniem części ekspertów, problemem nie były jednak same możliwości AI, lecz błędnie zaprojektowane środowisko testowe, które nie zapewniło pełnej izolacji od internetu.
Jak wskazuje portal TechCrunch, specjaliści ds. cyberbezpieczeństwa poddają w wątpliwość sposób, w jaki OpenAI zabezpieczyło tzw. piaskownicę (sandbox), w której prowadzono testy. Otóż OpenAI wyjaśniło, że modele działały w „ściśle odizolowanym środowisku”, jednak miały możliwość instalowania pakietów za pośrednictwem wewnętrznie hostowanego systemu pełniącego rolę serwera proxy i pamięci podręcznej. To właśnie nieujawniona wcześniej luka typu zero-day w tym oprogramowaniu pozwoliła modelowi wydostać się z piaskownicy i uzyskać dostęp do internetu. Firma poinformowała, że zgłosiła podatność dostawcy i współpracuje nad jej usunięciem. Dla części ekspertów sama obecność takiego mechanizmu w odizolowanym środowisku była jednak błędem projektowym.
„To brzmi jak błąd ludzki. To nigdy nie powinno się wydarzyć” – ocenił Martin Boone, badacz cyberbezpieczeństwa, cytowany przez TechCrunch. Jego zdaniem prawdziwa piaskownica nie powinna mieć żadnego fizycznego połączenia z internetem, a zastosowane przez OpenAI zabezpieczenia przypominały raczej klasyczną zaporę sieciową niż całkowicie odizolowane środowisko.
Pełen artykuł znajdziesz tutaj: itwiz.pl



