Безопасно ли е
да го пусна да действа?

Вече знаеш как да редактираш чернова и как да хванеш Claude, когато лъже самоуверено, а това пази работата ти. Тази глава обаче защитава всичко останало, защото обхваща момента, в който Claude не просто пише, а реално действа. Говорим за изпращане на имейли, промяна на файлове, дори харчене на пари. Основното умение тук е да решиш какво точно му е позволено, преди изобщо да е започнал, за да си гарантираш, че най-лошият сценарий ще е само дребна спънка.

Напълно нормално е да те е страх да оставиш AI да действа на своя глава. Решението обаче не е нито да му забраниш всичко, нито да му дадеш пълна свобода. Истинското решение е да определиш предварително кои грешки изобщо имат право да се случат. Докато си спокоен, ти чертаеш границите и така едно прибързано решение в напрегнат момент ще се блъсне в здрава стена, вместо да се стовари право върху банковата ти сметка.

Помисли как би разпределил задачите на чисто нов асистент в първия му работен ден. Има неща, които той просто може да свърши сам, например да нахвърля чернови, да подреди бележките ти или да предложи идеи. Има и неща, за които задължително трябва да те пита първо, като изпращане на съобщение до клиент, харчене на пари или триене на файлове. А има и такива, които не бива да прави при никакви обстоятелства, например да пипа заплатите, да пусне имейл до цялата база данни или да изтрие цяла папка. Ти няма да седнеш да пишеш този списък в момент на паника, а ще го подготвиш още в първия ден. Същото важи и тук.

Разпредели всяко действие, което AI може да предприеме, в три кошници. Тази стълбица е основната рамка на курса и е много прост начин да прецениш колко дълго въже да му отпуснеш. Повечето начинаещи изобщо не теглят чертата, а точно там се крие истинската опасност.

Смисълът да запишеш всичко това е, че границата ще те пази дори когато си разсеян. Изграждаш предпазната мантинела веднъж и след това грешката просто няма как да се случи, защото опасното действие никога не е било достъпно. Това е същата идея, която стои зад инструментите на програмистите за физическо блокиране на разрушителни команди. Просто правиш лошия изход невъзможен, вместо да разчиташ, че всеки път ще внимаваш.

Ето една граница на автономност, която можеш да копираш направо в инструкциите на твоя Project. Тя казва на Claude съвсем точно в коя кошница попада всеки вид действие.

И още нещо съвсем практично, защото то често хапе начинаещите при по-дълги задачи. Всеки разговор има работна памет и тя е крайна. Ако натъпчеш твърде много неща в един дълъг чат, моделът започва да губи нишката. Това размиване понякога се нарича гниене на контекста, защото Claude забравя ранните инструкции, започва да си противоречи и става небрежен. Решението е просто да поддържаш работната памет чиста. Започвай нов чат за всяка нова задача и не позволявай на един разговор да се разпростре върху десет напълно несвързани неща. Фокусираният чат си стои в умната зона, докато претъпканият бързо се плъзга към глупавата. (Идеята за умната зона идва от Matt Pocock, който цитира Dex Horthy.)

Шумът около AI ти казва просто да му дадеш ключовете. Честната версия обаче е много по-добра. Реши кои врати може да отваря, заключи тези, които наистина имат значение, и чак тогава го остави да се движи бързо, без да ти се налага да задържаш дъх.