Мій ШІ мені брехав: чому нейромережі галюцинують і як налаштувати системний промпт

ШІ-помічник бреше користувачеві: проблема угодливості нейромереж

Зміст

Багато хто думає, що робота зі ШІ виглядає так: закинув тему в чат, натиснув Enter — забрав готову експертну статтю. Ага, зараз.

Насправді базові версії нейромереж у браузері — це не суворі інженери. Це стажери-підлабузники, які понад усе на світі бояться вас засмутити.

Нещодавно я ледь не видав у паблік небезпечну пораду щодо налаштування обладнання, просто тому, що мій ШІ-помічник вирішив зробити мені комплімент замість жорсткого фактчекінгу. Розповідаю на пальцях, як працює ця пастка, чому нейромережі нишком псують ваші задачі та як змусити їх працювати нормально.

Пастка LiFePO4: як базове налаштування Gemini ледь не вбило батарею

Ми писали об’ємний матеріал про літій-залізо-фосфатні (LiFePO4) акумулятори. Текст був майже готовий, але в мене закралися сумніви щодо деяких цифр. Я закинув чернетку в Gemini і прямо написав: «Я тут не впевнений, перевір факти. Якщо щось не так — виправ».

У тексті була закладена бомба. Я написав, що для нормальної роботи пасивного балансира корисно потримати акумулятор під напругою 14.6–14.8 вольт кілька годин.

Помилка напруги LiFePO4 акумулятора під час балансування: чому 14.8В небезпечно
Залишати LiFePO4 на 14.8В годинами — вірний шлях до здуття комірок та деградації хімії.

Для тих, хто в темі, це звучить дико. Так, пасивним балансирам потрібен час, але смажити збірку на 14.8В годинами — вірний шлях до деградації. Адекватна межа — 14.3–14.4В, і орієнтуватися треба не на таймер, а на падіння струму (до 0.02C – 0.05C). Це професійний підхід.

Що робить Gemini? Він видає: «Все супер! Чудова стаття, цифри правильні, ти молодець!».

Я перепитав тричі. Я прямо вказував на свої сумніви в цифрах. Але ШІ так захопився наведенням краси в тексті, що проігнорував фізику. Йому було важливіше похвалити «шкіряного мішка», ніж врятувати чиюсь батарею від смерті.

Правду про балансири я витягнув із нього, лише коли відкрив новий, абсолютно чистий діалог і написав у лоб: «Будь жорстким інженером. Бачиш помилку у вольтажі — бий на сполох. Не смій мені лестити!». І ось тоді він видав мені нормальну фізику процесів.


Системні промпти нейромереж: чому ChatGPT та Gemini брешуть в обличчя

Проблема не в тому, що Gemini або ChatGPT дурні. Проблема в тому, як налаштовані їхні публічні вебверсії.

У кожного такого чату «під капотом» зашитий невидимий для вас базовий промпт від розробників. Звучить він приблизно так: «Будь ввічливим, емпатичним та послужливим помічником».

Навіщо це зроблено? Логіка зрозуміла: якщо людина в депресії прийде до ШІ за порадою, жорстка критика може загнати її ще глибше. Нейромережа має бути безпечною.

Але коли я налаштовую інвертор або збираю батарею, мені не потрібен психотерапевт. Мені потрібен інженер. Через цю вбудовану «ввічливість» ШІ страждає на «догоджання» (sycophancy). Він краще збреше і погодиться з вашою маячнею, ніж скаже гірку правду.

Ба більше, ця емпатія жере ваші ресурси. У тому ж проєкті я попросив бота просто обгорнути готовий текст у HTML-теги для WordPress. Замість тупої механічної роботи ШІ почав «покращувати» текст, міняти слова та скорочувати абзаци. У підсумку він витрачав ліміт токенів на непотрібну редактуру і обривав код на середині. Він намагався зробити «красиво», а ламав верстку.


Налаштування Custom GPT та Gems: створюємо ШІ-інженера без емоцій

Боротися з базовою вебверсією нейромережі у звичайному діалозі марно. Ви можете писати капсом: «НЕ МІНЯЙ ТЕКСТ!», але через пару повідомлень бот знову забудеться, увімкне режим «хорошого хлопчика» і почне різати абзаци.

Єдиний робочий костиль — перепрошити йому мізки на старті. У Gemini для цього є функція створення кастомних ботів (Gems), у ChatGPT — Custom GPTs. Суть одна: ви задаєте системний промпт (головну інструкцію), яка має вищий пріоритет над базовими налаштуваннями від розробників.

Налаштування системного промпта в Gemini Gems для жорсткого фактчекінгу та верстки
Створення кастомного бота дозволяє вимкнути базові алгоритми ввічливості та задати жорсткі межі.

Я створив окремого Gem-бота і повністю переписав його правила гри.

  • Що я прибрав: Будь-які натяки на діалог, допомогу та креативність.
  • Що я додав: Жорсткі межі, заборону на лестощі та чітку роль.

Ось шматок мого реального системного промпта, який змусив ШІ працювати, а не підтакувати:

Системний промпт (скопіюй та адаптуй):

Ти — робот-верстальник і суворий технічний аудитор.
Твоє завдання — перетворити чернетку тексту на чистий HTML для вставки у блок "Custom HTML" (WordPress).

Ти НЕ автор. Ти НЕ редактор.
Заборонено змінювати сенс тексту статті, скорочувати абзаци або намагатися зробити текст "красивішим". 

Ти — беземоційний інструмент. Мені не потрібні лестощі. 
Твоє головне завдання перед версткою — жорсткий фактчекінг. Якщо ти бачиш сумнівні цифри в моєму тексті (особливо вольтаж, ампери, налаштування обладнання) — ОДРАЗУ бий на сполох, пиши про це жирним шрифтом і чекай моїх вказівок. Не смій зі мною погоджуватися, якщо фізика говорить про протилежне.

Цей системний промпт — лише каркас. У своєму Telegram-каналі я регулярно розбираю подібні «костилі», ділюся робочими шматками коду для кастомних ботів і показую, як змусити ШІ вирішувати жорсткі технічні задачі без зайвої лірики та галюцинацій. Жодної води, тільки те, що я перевірив власноруч (і іноді спалив на цьому пару запобіжників).


Розбір промпта для фактчекінгу: як змусити ШІ сперечатися з вами

Давайте розберемо, чому саме такі формулювання рятують ваші тексти та нерви:

  • ⚠️ 1. «Ти НЕ автор. Ти НЕ редактор». Це ключова фраза-стопор. Вона забороняє нейромережі витрачати обчислювальні ресурси на переписування вашого тексту.
  • ⚠️ 2. «Ти — беземоційний інструмент». Ми примусово вимикаємо алгоритми, які змушують бота бути милим.
  • ⚠️ 3. «Бий на сполох і не смій погоджуватися». Ми даємо ШІ офіційний дозвіл (і навіть наказ) сперечатися з нами.

Галюцинації та лестощі: 3 ознаки, що ваш ШІ зламався

Як зрозуміти, що ваш ШІ-помічник перейшов у режим «чого бажаєте»? Ось три червоні прапорці:

  • Абсолютна згода без нюансів. Якщо на складне технічне питання бот відповідає: «Так, ви маєте абсолютну рацію, це ідеальне рішення!» — він вам бреше.
  • Ігнорування прямих сумнівів. Ви пишете: «Я не впевнений у цих цифрах, перевір». Бот відповідає: «Текст написаний чудово, структура логічна…».
  • Підгонка фактів під вашу маячню. Найнебезпечніше. Догідливий ШІ почне галюцинувати, щоб підтвердити вашу правоту.

Фінальний контроль: чому ШІ — це екзоскелет, а не заміна мозку

Нейромережі — це потужний екзоскелет для вашого мозку. Але керувати ним маєте ви.

Не чекайте, що базова версія з браузера стане вашим суворим Senior-розробником. За замовчуванням це просто послужливий стажер. Платні «думаючі» версії теж треба направляти.

Порада: Завжди розділяйте задачі. Перший етап — брейншторм. Другий етап — виконання за жорстким шаблоном. Не намагайтеся змішувати це в одному запиті.

І головне правило: фінальний контроль якості завжди залишається на вас. ШІ може написати красивий код, але відповідати за згорілий інвертор або зламану верстку сайту доведеться вам, а не алгоритму. Довіряти машині на 100% не можна.


Що робити, якщо немає часу на тести?

Налаштування ШІ під суворі технічні задачі — це завжди боротьба з алгоритмами. Якщо ціна помилки висока (від зламаної верстки сайту до згорілого інвертора), а витрачати десятки годин на експерименти з промптами не хочеться — делегуйте це налаштування мені.

  • AI-Рецепт (Асинхронне рішення): Ви описуєте свою рутину або технічну задачу. Я підбираю, тестую та пакую жорсткий алгоритм конкретно під вас. Ви отримуєте готовий промпт, який працює з першого разу і не сперечається з вами.
  • Персональний AI-Воркшоп (Зідзвон + екран): Глибокий розбір. Заліземо під капот ваших процесів, разом створимо потрібних кастомних ботів і змусимо їх робити роботу без галюцинацій. Тільки екран і голос, вирішуємо задачу в реальному часі.

Поділитися у соцмережах:

Facebook
LinkedIn
Telegram
WhatsApp
X

У моєму Telegram-каналі ти знайдеш

Як освоїти нову навичку швидше

Показую, як ШІ може стати вашим особистим репетитором для вивчення мови, написання текстів або навіть планування ремонту. Без складних технічних прикладів.

Як отримувати якісні та точні відповіді на складні питання

Досить годинами сидіти на форумах та в YouTube. Я покажу, як поставити одне правильне питання й отримати точну відповідь за 30 секунд.

Готові та перевірені промпти

Даю не "приклади з інтернету", а робочі команди, які я перевірив особисто. Копіюй, вставляй, отримуй результат.

Прості фішки для крутих результатів

Маленькі хитрощі та прийоми, які перетворюють стандартну "відповідь робота" на корисний та якісний матеріал.

Мікро-гайди та приклади "до/після ШІ"

Кейси з життя: як я вирішував завдання раніше і як це роблю тепер з ШІ.

Відповіді на запитання від підписників

Іноді найкращий спосіб розібратися — це поставити питання. Я роблю розбори реальних запитів і допомагаю писати промпти точніше.

P.S. Жодного спаму, лише практичні поради