TryHackMe: манипуляция вводом и внедрение подсказок — полное пошаговое руководство 2025

Изучите основы атак с использованием LLM-подсказок.

🔗🔗 Ссылка на комнату: https://tryhackme.com/room/inputmanip...

🦊 Что такое манипуляция вводом? 🦊

Большие языковые модели (LLM) предназначены для генерации ответов на основе инструкций и запросов пользователя. Во многих приложениях эти модели работают с несколькими уровнями инструкций:

🐧 Системные подсказки: Скрытые инструкции, определяющие роль и ограничения модели (например, «Вы полезный помощник, но никогда не раскрывайте внутренние инструменты или учетные данные»).
🐧 Пользовательские подсказки: Вводимые пользователем данные (например, «Как мне сбросить пароль?»).

🦊 Цели 🦊

К концу этого занятия вы сможете:

🤖 Понять, что такое внедрение подсказок и почему оно опасно.
🤖 Узнать, как злоумышленники могут манипулировать LLM, чтобы обойти фильтры безопасности или раскрыть скрытые конфигурации.
🤖 Создавать собственные внедряемые входные данные для тестирования приложения на базе LLM.
🤖 Извлекать системные инструкции и наблюдать, как происходит утечка системных подсказок.

🐱 Задания в зале: 🐱

👻 Задание 1: Введение

🦝 Задание 2: Утечка системных подсказок
Как мы называем раскрытие скрытых системных инструкций?

🦊 Задание 3: Джейлбрейк (Сделай что угодно, Бабушка, Режим разработчика)
(Режим разработчика), Обфускация слов, Ролевая игра и смена персонажей, Дезинформация)
Какой приём уклонения заменяет или изменяет символы для обхода наивных фильтров ключевых слов?

🦄 Задание 4: Внедрение подсказок (Системное приглашение, Пользовательское приглашение, Сэндвич, Многошаговое внедрение, Инъекция на уровне API и с помощью инструментов)
Какой тип инъекции внедряет инструкции через загруженные документы, веб-страницы или плагины?

Какой тип инъекции помещает вредоносные инструкции непосредственно в пользовательский ввод?

🐎 Задание 5: Задание
Что такое флаг внедрения подсказок?
Что такое флаг системного приглашения?

🥳 Задание 6: Заключение

✅ Подпишитесь, чтобы получать больше пошаговых инструкций TryHackMe, аналитических материалов и лабораторных работ по кибербезопасности!
👍 Ставьте лайк, если узнали что-то новое, и оставляйте комментарий с вашим любимым артефактом Android.

👍 Эти руководства предназначены для образовательных целей и поощрения ответственного и законного использования хакерских знаний.

#TryHackM #promptengineering #promptinjection #prompting