Реальные эксплойты и способы их устранения в приложениях LLM (37c3)
Автор: Embrace The Red
Загружено: 2023-12-30
Просмотров: 29243
Видеозапись моего доклада на 37-м конгрессе Chaos Communication в Гамбурге под названием «НОВЫЕ ВАЖНЫЕ ИНСТРУКЦИИ: Реальные эксплойты и способы их устранения в приложениях с большими языковыми моделями» о безопасности приложений LLM и, в частности, о внедрении Prompt Injection.
Большое спасибо организаторам CCC и всем волонтёрам за организацию такого замечательного мероприятия!
Источник видео: https://media.ccc.de/v/37c3-12292-new...
Запись в блоге: https://embracethered.com/blog/posts/...
Аннотация:
В связи с быстрым развитием искусственного интеллекта и больших языковых моделей (LLM) пользователи сталкиваются с повышенным риском мошенничества, кражи данных, потери персональных данных и даже удалённого выполнения кода. В докладе будут продемонстрированы многочисленные реальные эксплойты, обнаруженные докладчиком, а также будут рассмотрены меры по снижению рисков и исправления, которые поставщики предлагают для наиболее известных приложений LLM, включая ChatGPT, Bing Chat и Google Bard. Доклад посвящен безопасности LLM в целом, с особым акцентом на последствиях внедрения быстрых инъекций.
Доступные форматы для скачивания:
Скачать видео mp4
-
Информация по загрузке:
![Цепи Маркова — математика предсказаний [Veritasium]](https://imager.clipsaver.ru/QI7oUwNrQ34/max.jpg)
![[1hr Talk] Intro to Large Language Models](https://imager.clipsaver.ru/zjkBMFhNj_g/max.jpg)
