Похоже, что графические процессоры от AMD, Apple и Qualcomm также подверглись угрозе безопасности под названием «LeftoverLocals», способной извлекать данные из памяти графического процессора. Эта уязвимость, обнаруженная исследователями безопасности, представляет потенциальный риск для конфиденциальных данных, особенно в сфере искусственного интеллекта.
«LeftoverLocals» нацелена на графические процессоры, используемые в моделях LLM и ML, где конфиденциальные данные играют важную роль. Эксперты из Университета Карнеги-Меллон сообщили об уязвимости поставщикам графических процессоров, включая AMD, Apple, Intel, Qualcomm и Imagination.
Уязвимость может привести к потере данных при использовании графических процессоров, исчисляемой в мегабайтах, что делает ее особенно заметной при обучении моделей с большим количеством параметров. Эксплуатация «LeftoverLocals» может быть разрушительной в области искусственного интеллекта, особенно для фирм, занимающихся обучением LLM.
Уязвимость зависит от того, как графический процессор изолирует свою память, что делает ее уникальной и отличной от структуры процессора. Поэтому злоумышленники, получившие общий доступ к графическому процессору через программный интерфейс, могут скомпрометировать данные в его памяти.
Используя два процесса — прослушиватель и писатель, «LeftoverLocals» может считывать неинициализированную локальную память для извлечения данных. Эта уязвимость, возможно, не представляет серьезной угрозы для обычных пользователей, но для тех, кто занимается облачными вычислениями или машинным обучением, она может иметь фатальные последствия в контексте безопасности данных искусственного интеллекта.