ИнструкцияБезопасное использование ИИ

Эту задачу пока не надо отдавать нейронке: тест из семи вопросов

Семь вопросов перед отправкой рабочей задачи в нейросеть, жёсткие стопы и безопасный ручной маршрут, если хотя бы одна проверка не пройдена.

Сотрудник выдёргивает вилку из быстрого станка до отправки документа.

Пауза до отправки — самое полезное место для проверки

Вы ведёте несколько задач, уже скопировали фрагмент письма или таблицы и хотите получить результат быстрее. Проблема не в самой нейросети, а в том, что до отправки ещё не определены данные, цена ошибки и способ проверки.

Убедительный ответ может содержать неверный факт или вымышленную ссылку. Поэтому удобство ответа не считается подтверждением его точности.

Результат теста: ограниченный черновик или ручной маршрут

За семь ответов «да» или «нет» вы решаете только одно: допустим ли небольшой обратимый черновой прогон. Тест не разрешает обработку данных, не заменяет правила работодателя и не даёт юридического заключения.

Что положить рядом перед вопросами

  • Один точный фрагмент задачи, а не вся папка или переписка.
  • Категория данных: публичные, внутренние, персональные, конфиденциальные или секретные.
  • Критерий готовности: что именно вы сможете проверить глазами, формулой или по первоисточнику.
  • Ручной способ выполнить задачу, если тест остановит ИИ-маршрут.

Семь вопросов «да» или «нет»

Для первых шести безопасный ответ — «да». Седьмой сравнивает полные затраты времени. Если фактического сравнения с ручным способом нет, ответ на седьмой вопрос считается «нет».

  1. Есть ли у вас явное разрешение использовать выбранный сервис для этой категории рабочих данных?
  2. Удалены ли из входа реальные персональные, конфиденциальные и секретные сведения, которые сервису не нужны?
  3. Будет ли возможная ошибка малозначимой, заметной и обратимой до того, как результат кому-то повредит?
  4. Сможете ли вы независимо проверить каждый существенный факт, число, ссылку и вывод?
  5. Останется ли окончательное решение у уполномоченного человека, если затронуты работа, деньги, права, здоровье или безопасность?
  6. Ограничится ли ИИ черновиком без самостоятельной отправки, публикации, удаления данных или запуска действия?
  7. Сэкономит ли черновик время после полной проверки, если сравнить его с известным ручным способом?
«Нет» в вопросах 1–6 означает стоп. «Нет» или отсутствие фактического сравнения только в вопросе 7 означает, что ручной способ сейчас рациональнее.

Жёсткие стопы без торга с дедлайном

  • Нет подтверждённого разрешения на сервис или в исходнике остались лишние чувствительные данные.
  • Ответ должен сам принять кадровое, юридическое, финансовое, медицинское или связанное с безопасностью решение.
  • Результат автоматически уйдёт адресату, изменит запись, удалит файл или запустит необратимое действие.
  • Нет независимого источника или понятного приёмочного критерия, по которому можно заметить ошибку.

Если стоп сработал, задача не останавливается

  1. Сократите задачу до безопасной механической части: пустой шаблон, структура, список полей или формула без рабочих данных.
  2. Выполните содержательную часть вручную по первоисточнику, утверждённому шаблону или через ответственного специалиста.
  3. Перед отправкой или изменением записи проведите обычную проверку и получите требуемое внутреннее согласование.

Ручная проверка на трёх учебных карточках

Ниже не рабочие кейсы и не результаты модели. Это три придуманные низкорисковые карточки, которыми вручную проверена логика развилок.

Пример 1. Превратить вымышленную повестку в чек-лист

Карточка содержит только придуманные пункты и не запускает действий. Ответы 1–6 — «да», проверка делается по исходной повестке. Фактическое сравнение времени с ручным способом не проводилось, поэтому по правилу седьмой ответ — «нет». Завершённый исход: оставить форматирование вручную до отдельного замера.

Пример 2. Посчитать итог в синтетической таблице

В карточке пять придуманных чисел и заранее известная контрольная сумма. Риск обратим, но ручная формула короче, чем запрос и проверка. Исход: седьмой ответ «нет», поэтому задача остаётся в таблице без нейросети.

Пример 3. Учебная карточка с кадровым выбором

Имена и показатели вымышлены, поэтому ручная проверка карточки низкорисковая. Но условие просит модели выбрать человека для неблагоприятного кадрового решения. Пятый ответ — «нет». Исход: жёсткий стоп; решение остаётся у ответственного человека по установленной процедуре.

Где тест из семи вопросов заканчивается

Он не устанавливает законность обработки, не читает договор с поставщиком и не знает ваши права доступа. Если любой из этих пунктов неясен, безопасный ответ уже «нет», пока владелец политики не даст точное правило.

Функции и условия сервисов меняются. Перед следующей реальной задачей возьмите один фрагмент без рабочих данных, письменно ответьте на семь вопросов и только после семи «да» решайте, нужен ли ограниченный черновик.

Граница применения

Что обязательно проверить

Тест из семи вопросов — предварительный операционный фильтр. Он не заменяет внутренние правила, оценку поставщика, информационную безопасность, профессиональную экспертизу или юридическое разрешение.

Основание материала

Источники

  1. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence ProfileNational Institute of Standards and Technology · Официальный источник

    Описывает конфабуляции генеративных моделей и рекомендует управлять риском с учётом контекста применения, последствий и человеческого контроля.

    Проверено
  2. AI and cyber security: what you need to knowUK National Cyber Security Centre · Официальный источник

    Указывает на ошибочные утверждения, prompt injection и риск раскрытия конфиденциальной информации при небезопасном использовании ИИ-систем.

    Проверено
  3. Does ChatGPT tell the truth?OpenAI Help Center · Официальный источник

    Официально предупреждает об ошибочных фактах и вымышленных ссылках и рекомендует отдельно проверять важную информацию по надёжным источникам.

    Проверено

История обновлений

  1. Повторяющаяся методология заменена быстрым тестом из семи вопросов со стоп-условиями и безопасным ручным маршрутом.

Как использовался ИИ

ИИ помог подготовить и переработать черновик. Редакция проверила факты, рекомендации, формулировки и ссылки перед публикацией и отвечает за итоговый текст.

Продолжить по теме
Красный фильтр задерживает ключ, карту и бейдж перед окном передачи документов.Безопасное использование ИИ

Какие данные нельзя отправлять в ИИ: короткая памятка

Пять красных категорий, четыре вопроса перед отправкой, синтетический пример очистки и аварийный алгоритм, если рабочие данные уже попали в ИИ-сервис.

Небольшую повторяемую стопку кладут в тестовый лоток рядом с большой хаотичной горой.Рабочие процессы

Как выбрать первую задачу для автоматизации с ИИ

Личный фильтр из восьми вопросов, стоп-условий и карточки задачи помогает выбрать небольшой безопасный первый шаг — без выдуманного теста и обещаний экономии.

Два сотрудника удерживают большой рубильник, пока третий проверяет маленький тестовый контур.Рабочие процессы

Как внедрить ИИ в команду: чек-лист на первый месяц

B2B-чек-лист для одного ограниченного сценария: подготовить данные, задать критерии, проверить черновики и принять решение без выдуманных обещаний об экономии.

За гладким фасадом документа видны сломанные опоры, не связанные с источниками.Безопасное использование ИИ

Как проверять факты в ответах ИИ: три рабочих случая

Сначала выделите проверяемые утверждения, затем сверяйте каждое вне диалога по первичному источнику. Три учебных кейса показывают весь маршрут.

Один документ проверяют на отдельном стенде, пока остальной офис работает за границей теста.Рабочие процессы

Как проверить ИИ-инструмент на одной B2B-задаче

Один паспорт-чек-лист и пять шагов для проверки ИИ-инструмента на узком B2B-сценарии без интеграции и без выдуманного результата пилота.