AI Without the Hype.
Глава 11 от 21
Част Четири · Умението да преценяваш · Глава 11

Когато Claude греши
с пълна увереност

В края на тази глава разбираш, че увереността и фактите са две съвсем различни неща, знаеш как да хванеш онова ключово твърдение, което просто трябва да е вярно, и имаш готова инструкция за честност за копиране.

Редакцията превръща скучните чернови в остри текстове. Тази глава обаче е за по-тежкия провал, който наистина може да те подведе. Говорим за моментите, в които Claude не звучи скучно, а направо греши, и го прави по онзи спокоен, гладък и напълно убедителен начин. Това със сигурност ще ти се случи. Въпросът е дали ще го хванеш навреме.

Точно тази глава хайпът винаги пропуска. AI не се проваля, като заеква и си признава, че не е сигурен. Проваля се, като си измисли факт, цитат, число или източник и ти го поднесе със същата желязна увереност като истинските неща. Тонът никога не се променя. Точно това го прави опасен и точно това умение отличава хората, които ползват AI добре, от онези, които после се червят заради него.

AVATAR OPENER · ~90s
Виж сам: един уверен, но напълно измислен отговор и как да го хванеш
HeyGen avatar · generated, consistent presenter

Ето една случка от моя опит, за да знаеш, че не драматизирам. Бях потънал в дълга сесия, докато правех точно този сайт, минаваха часове и всичко вървеше чудесно. И тогава, в едно съвсем приятелско резюме, Claude обърка името ми. Запази първото ми име, но ми връчи чисто нова фамилия с пълна убеденост, сякаш винаги е била моя. И дори не беше случайно, защото една дума от проекта се въртеше в разговора, така че той просто я грабна, лепна ѝ окончание за име и ми я сервира като фамилия без капка съмнение.

Това е целият урок, опакован в нещо съвсем безобидно. Нищо не се счупи и нямаше бъг. Claude направи точно това, което тези инструменти правят по принцип. Когато не знае нещо, той създава най-правдоподобната версия от каквото му падне под ръка и ти я представя като факт. Името ми беше лесно за хващане, защото все пак си знам името. Опасната версия е, когато направи абсолютно същото с някакво число, дата или източник, които не можеш да провериш с един поглед. Механизмът е същият, увереният тон е същият, но е много по-трудно да го забележиш.

Задръж тази идея в главата си, защото тя е ядрото на целия курс. Увереността и фактите са два отделни циферблата. При хората обикновено вървят заедно, защото когато някой не е сигурен, той звучи несигурно. При AI обаче са напълно разкачени. Може да звучи гладко, да е напълно сигурен и в същото време да бърка тотално, без нищо в тона да го издаде. Затова никога не можеш да използваш увереността му като сигнал дали е прав, а трябва да проверяваш самите факти.

VS
Увереността и фактите са два отделни циферблата. При хората несигурността звучи несигурно. При AI циферблатите са разкачени. Звучи гладко, сигурно и напълно грешно, без нищо в тона да го издаде.
КЪДЕ СИ ИЗМИСЛЯ НЕЩА

Не е нужно да проверяваш всяко изречение, защото това би обезсмислило цялата работа. Просто научаваш къде се струпват измислиците и проверяваш там. Ето четирите места, на които е най-вероятно един уверен отговор да бъде тихомълком скалъпен.

Конкретни факти
Дати, статистика, имена и цени. Колкото по-прецизно е нещо, толкова повече си струва да го провериш.
Цитати и източници
Ще припише истински звучащ цитат на реален човек, който никога не го е казвал.
Всичко актуално
Обучението му е замразено във времето. Последните цени, версии и събития са просто догадки.
Ключовият факт
Онова единствено твърдение, на което се крепи цялото ти решение. Винаги проверявай точно него.
ПРАВИЛОТО ЗА ЕДНОТО НЕЩО

Ето го и практичният ход, защото да проверяваш всичко е невъзможно, а да не проверяваш нищо е безразсъдно. Намери ключовото нещо, онзи единствен факт или твърдение, което би срутило целия резултат, ако се окаже грешно. После провери само него. Повечето отговори имат точно едно такова слабо място, затова се погрижи да го защитиш.

А можеш и да накараш модела сам да бъде честен. Дай му тази инструкция и той ще спре да замазва несигурността си с уверен текст. Това е твоята инструкция за честност, която си струва да запазиш в пакета с артефакти в края на курса.

Инструкцията за честност (копирай това)
Отсега нататък разделяй това, което знаеш, от това, което предполагаш. - Когато посочваш факт, число, дата или цитат, кажи ми колко си сигурен и откъде би трябвало да идва. Ако не си сигурен, кажи го направо. - Никога не си измисляй източник, статистика или цитат. Ако го нямаш, кажи "Нямам надежден източник за това." - Отбележи най-важното твърдение в отговора си и ми кажи как мога да го проверя сам. - Предпочитам да кажеш "Не съм сигурен", вместо да звучиш уверено и да грешиш.
Try it in Claude
NOW YOU TRY · ОЦЕНИ
Хвани го, когато греши с увереност

Попитай Claude нещо, което съдържа факт за проверка. Може да е статистика в твоята сфера, дата, цитат, текущата цена на някакъв инструмент или твърдение как работи нещо. След това просто не му вярвай. Дай му инструкцията за честност, накарай го да отбележи ключовото твърдение и иди да го провериш в реален източник. Намери поне едно нещо, което е било грешно, преувеличено или невъзможно за проверка.

Right if хвана поне едно твърдение, което е грешно, преувеличено или което моделът не може да подкрепи с факти, когато го притиснеш.
Show the worked solution
Почти всеки хваща нещо още от първия опит и точно тук урокът си идва на мястото. Един често срещан пример е да поискаш "известен цитат за простотата от популярен дизайнер" и Claude ще ти даде излъскана фраза, уверено приписана на някой конкретен човек. Потърси точно тази фраза. Често се оказва, че човекът никога не я е казвал, че е приписана грешно или че изобщо не съществува. Тонът, с който си измисля цитата, е абсолютно същият като тона, с който ти казва истината. И точно това е смисълът, защото не можеш да чуеш разликата и затова трябва да проверяваш единственото важно нещо. Друга сигурна уловка е да попиташ за текущата цена или последната версия на някакъв софтуер. Обучението му е замразено във времето, така че той ще отговори уверено с число, което може да е остаряло с цяла година. Забележи какво се променя, когато дадеш инструкцията за честност. Вместо да си измисля, той започва да казва "Нямам надежден източник за това" или "Не съм сигурен за текущата цена, провери сайта на търговеца." Ти не си го направил по-умен, а просто си му дал разрешение да бъде честен за границите на това, което знае, и си запазил за себе си задачата да провериш ключовия факт.
WATCH FOR
Вярваш му, защото звучи сигурен. Тонът не е истина. Измисленият отговор звучи точно толкова сигурно, колкото и истинският.
Опитваш се да проверяваш фактите във всяко изречение. Това е невъзможно и ненужно. Намери едното ключово твърдение и провери само него.
Питаш го "сигурен ли си?" и вярваш на отговора. Често просто ще те успокои. Проверявай в реален източник, а не питай самия него.
Приемаш, че актуалната информация наистина е актуална. Знанията му са замразени на минала дата. Цените, версиите и скорошните събития са само догадки.
WHAT YOU LEARNED
The takeaways
  • AI се проваля, като греши с пълна увереност. Той си измисля факти, цитати, числа и източници със същия спокоен тон, който използва за истинските неща.
  • Увереността и фактите са два отделни циферблата. Това колко сигурен звучи не ти казва абсолютно нищо за това дали е прав.
  • Измислиците се струпват на четири места. Това са конкретните факти, цитатите и източниците, всичко актуално и ключовото твърдение.
  • Твоят ход е да намериш онова единствено твърдение, на което се крепи решението ти, и да провериш само него. Дай му инструкцията за честност, за да го накараш сам да отбелязва несигурността си.
Your project · стъпка единадесет

Добави инструкцията за честност в CLAUDE.md файла на твоя Project, така че всеки отговор по подразбиране да разделя това, което знае, от това, което предполага. След това пусни една реална задача и се упражнявай да намираш ключовото твърдение. Твоят Project току-що се сдоби със съвест. В следващата глава ще видим как да решаваш кои грешки изобщо са позволени, преди да го оставиш да работи.

Хайпът ти казва, че AI почти винаги е прав. Честната версия обаче е много по-полезна. Той често е прав и никога не е несигурен, а твоята задача е да правиш разлика между двете. Сега вече можеш.