Новата машина на страха

Гюнтер Бурбах,  31 октомври 2025 г.

Как държавата, изкуственият интелект и платформите криминализират критиката. В днешно време едно написано изречение, споделена връзка или качване на видеоклип са достатъчни, за да предизвикат държавно разследване. Това, което преди се инициираше старателно чрез жалби, прегледи и обществен дебат, сега е до голяма степен автоматизирано.

Невидими цифрови филтри и алгоритмични системи за предупреждение решават какво привлича вниманието и какво впоследствие се преследва. Резултатът често е обиск на домове, конфискация на устройства или замразяване на акаунти. Резултатът винаги е един и същ: хора, които по собствена преценка не са искали нищо повече от това да информират или критикуват, изведнъж се оказват с разследващи досиета и претърсени бюра. Ефектът от сплашването е огромен. През последните седмици например беше разкрито, че медийният учен Норберт Болц е бил обект на обиск на дом. Според медийни съобщения, операцията е била започната по подозрение за използване на противоконституционни символи, обвинение, което със самото си съществуване уврежда репутацията, независимо дали в крайна сметка се окаже вярно. Подобни производства отдавна са надхвърлили правната си рамка. Те изпращат послание: критиката може да има последствия, дори когато е законово допустима. Няколко медийни специалисти са преживели подобна съдба през последните години, като са били обект на разследване от властите за предполагаемо разпространение на дезинформация или изразяване на непопулярни възгледи. В заглавията обикновено е достатъчна самата фраза „XY е разследван“. Презумпцията за невинност, някога крайъгълен камък на върховенството на закона, губи тежест в тази нова медийна логика. Подозрението се превръща в новина, а новината се превръща в осъждане в общественото съзнание. Обяснението за това развитие не се крие във внезапния произвол на отделните прокурори. То се крие в система, която преплита технически анализ на данни, политически приоритети и правни процеси. В много случаи процесът не започва с официално оплакване, а с цифрово предупреждение: известие от алгоритъм на платформа, оценка на риска от автоматизирано наблюдение или аномалия в текстовите и комуникационните модели. Тези системи претърсват мрежи, публикации и метаданни за „подозрително“ съдържание – вид система за ранно предупреждение, която постоянно търси отклонения от дигитално дефинираната норма. Ако се открие клъстер от определени термини, източници или връзки, системата генерира предупреждение, което попада на бюрото на съответните органи. Там човек, често под напрежение във времето, решава какви са следващите стъпки. Решението изглежда формално законно, но се основава на машинно генерирани подозрения. Това поражда нов вид правоприлагане, което вече не започва с полицейски разследвания, а с анализ на данни. В много случаи съдебната заповед се превръща в обикновена формалност. Това, което изглежда като независимо решение, често е краен продукт на верига, която е била предварително определена отдавна. Алгоритъмът определя подозрението, органът го потвърждава, съдът го одобрява. Пропорционалността се превръща в правен термин, лишен от практическо значение. Последиците за засегнатите са опустошителни: претърсвания на домове, конфискувани компютри, замразени сметки, продължителни месеци съдебни производства, дори ако в крайна сметка не се докаже престъпна дейност. Основното послание е недвусмислено: всеки, който публично критикува, е в опасност. И точно това е част от проблема. Самата държава трябва да се запита дали все още знае границата между легитимната обществена безопасност и политически мотивираното сплашване. Тази нова реалност не е случайна. Тя е резултат от пълзящо сливане на държавна власт, техническа инфраструктура и частни механизми за цензура. Платформи като YouTube, Meta или X предоставят данните, частни аналитични фирми ги анализират, а държавните институции имат достъп до тях, когато е необходимо. Цикълът е завършен там, където наборът от данни се превръща в мярка, мярката се превръща в прецедент, а прецедентът се превръща в новата нормалност. В тази статия искаме да покажем как работи този механизъм: кой има достъп до кои данни, как платформите, службите за сигурност и съдебната система са свързани помежду си, на каква основа се вземат решения и защо всичко това е по-опасно за върховенството на закона, отколкото мнозина осъзнават. Защото истинските щети не започват с осъдителна присъда. Те започват там, където страхът се завладява, дори когато хората изобщо могат да говорят.

Кой контролира нашите данни и как се сортират?

Който контролира данните, в крайна сметка контролира интерпретацията на реалността. Тази проста истина описва същността на съвременната държава за наблюдение: Който вижда какво казват, пишат и споделят другите, може да определи кое остава видимо и кое изчезва. Днес този контрол е разпределен между няколко организации: платформени компании, доставчици на облачни услуги, агенции за сигурност и частни фирми за анализ на данни. Но в крайна сметка техните системи се свързват като зъбните колела на една машина. Повечето цифрови следи, оставени от гражданин в Германия, преминават през поне три нива на контрол: платформата, инфраструктурата и правителствения интерфейс.

Платформи като YouTube, Meta и X съхраняват и анализират всяка дейност, не само видими публикации, но и пътища на кликвания, движения на превъртане, времеви истории и взаимодействия с потребителите. Тези данни се съхраняват предимно на сървъри, принадлежащи на Amazon Web Services (AWS), Google Cloud или Microsoft Azure. Докато голяма част от тези сървъри са физически разположени в Европа, компаниите са обект на законодателството на САЩ, което означава, че те трябва да предават данни на американските власти при поискване, дори ако те произхождат от Германия.

Второто ниво обхваща доставчиците на облачни и охранителни услуги, наети от правителството. В Германия това е предимно T-Systems, която управлява така наречените „суверенни облаци“ от името на федералното и провинциалните правителства – уж високосигурни мрежи за данни за властите. В действителност обаче много услуги там също се осъществяват чрез сътрудничество със същите американски доставчици. Федералното министерство на вътрешните работи например използва услуги на Microsoft в модифицирана версия, която официално се предполага, че е „съвместима с GDPR“, но в действителност представлява само правен междинен слой.

Третото ниво, накрая, е това на анализа на данни и тук започва политическият аспект на контрола. Системи като Palantir Gotham или Foundry свързват източници на данни от полицията, разузнавателните служби и отворените мрежи. Проектът „Hessendata“, разработен от Министерството на вътрешните работи на Хесен в сътрудничество с Palantir, е пример за това как от хетерогенни данни се получава цялостна картина. Официално софтуерът е предназначен да идентифицира модели на престъпност. На практика обаче същите инструменти могат да се използват и за анализ на комуникационни мрежи: кой с кого взаимодейства, какво съдържание се споделя и кои термини се използват често. Тези технологии могат да анализират модели на движение и мнения в реално време. Те идентифицират тенденции, теми и точки на влияние. Именно това ги прави толкова ценни за службите за сигурност, но и толкова опасни за свободата на словото. Защото всеки, който може да картографира комуникационните потоци на обществото, може и да се намеси целенасочено: да ограничи отделни канали, да маркира акаунти, да усили или отслаби наративи. По този начин границата между политиката за сигурност и манипулирането на информацията се размива. Освен това има един до голяма степен пренебрегван играч: частните брокери на данни. Те събират, купуват и продават данни от почти всички области на живота: поведение при покупки, история на местоположенията, посещения на уебсайтове, дори здравни данни. Тази информация не тече директно към държавата, а попада в компании, които от своя страна си сътрудничат с властите. Това създава паралелна информационна инфраструктура, която вече не изисква държавен контрол, защото отдавна е възложена на външни изпълнители. В ежедневната правна практика това означава, че когато прокуратурата преследва подозрение, вече са налични предварително формулирани набори от данни. Връзки между лица, честота на комуникация, ключови думи, дори емоционални тонове в текстовете - всичко може да бъде автоматично анализирано. По този начин разследващото досие вече не се съставя ръчно, а се генерира алгоритмично. И точно тук върховенството на закона се проваля: където преди първоначалното подозрение трябваше да бъде обосновано, сега машината предоставя обосновката. Не е тайна, че подобни системи се използват в Германия. Няколко федерални провинции изпълняват пилотни проекти за правоприлагане, подкрепено от изкуствен интелект. Полицията на Северен Рейн-Вестфалия експериментира с автоматизирано „откриване на заплахи“, Федералната служба на криминалната полиция (BKA) използва методи за анализ на текст, за да оцени „потенциала на цифровия риск“, а на ниво ЕС се подготвя съвместна платформа за борба с тероризма, която ще анализира и съдържание от социалните медии. Терминът „превенция“ служи като щит за наблюдение. Но превенцията е гъвкав термин. Кой решава кога един текст е „радикален“? Кой определя кога критиката към правителствената политика звучи „против естаблишмънта“? Такива решения вече не се вземат в съдебната зала, а в кодекса. И този кодекс не принадлежи на държавата, а на частни компании, чиито модели не са нито публични, нито контролируеми.

По този начин властта се измества тихо, технически, невидимо, далеч от демократично легитимираните институции и към мрежа от платформи, софтуерни компании и апарати за сигурност. Гражданинът не вижда нищо от това. Той кликва, пише, споделя, изтрива и не осъзнава, че данните му вече не принадлежат на него. Тази невидимост е най-опасната форма на контрол. Тя създава климат на самоцензура, в който хората започват да се наблюдават, преди някой друг. Новата държава на наблюдение вече не се нуждае от униформи, цензура или досиета на Щази. Нуждае се само от алгоритми, които решават чии мнения остават видими и чии домове се претърсват.

Сянката на платформите: Как работят системите за дигитална репутация

Всеки, който вярва, че цензурата е единствено държавно явление, не е разбрал системата на съвременната платформена икономика. Силата за потискане на информацията отдавна е приватизирана. Видимостта се е превърнала във валута, а тези, които решават какво остава видимо, притежават политическа власт, без да бъдат избирани. Платформи като YouTube, X и Facebook не са просто комуникационни пространства. Те са алгоритмични филтриращи машини. Всяко твърдение първо се оценява технически, преди дори да бъде показано на аудитория. Вече не става въпрос само за брой кликвания или обхват, а за „метрики за доверие“ – вътрешни оценки на репутацията, които определят дали дадена публикация се рекламира, третира неутрално или е оставена в дигиталните сенки.

Терминът „shadowban“ вече не е мит. Милиони потребители го изпитват ежедневно: публикациите не се изтриват, а се правят невидими; видеоклиповете не се показват в резултатите от търсенето; коментарите са скрити; а броят на последователите внезапно стагнира без видима причина. Официално компаниите обясняват, че това се прави за борба с „токсичното съдържание“ или за ограничаване на дезинформацията. В действителност алгоритмичните интервенции стават все по-политизирани. Определението за това какво представлява „дезинформация“ непрекъснато се променя, често паралелно с комуникационните стратегии на западните правителства. Това, което вчера беше легитимна критика, днес се счита за потенциална заплаха за „обществената безопасност“. Насоките на платформата се основават на изискванията на Закона за цифровите услуги на ЕС или така наречените Кодекси за поведение при дезинформация. Зад това стои европейска мрежа от регулаторни органи, комисии и външни „проверители на факти“, чийто състав едва ли е прозрачен. От решаващо значение е, че тези интервенции са автоматизирани. Няма човешко четене и оценяване; вместо това, система с изкуствен интелект оценява вероятностите. Ключови думи, настроения, източници - всичко се сканира в реално време. Съдържанието, съдържащо определени семантични модели, се понижава в класацията, докато друго съдържание се приоритизира. По този начин алгоритъмът се превръща в невидим редактор, лишен от отчетност. За журналисти, творци и академици това има катастрофални последици. Видимостта сега е въпрос на оцеляване. Тези, които публикуват работата си онлайн, зависят от обхвата. Ако този обхват изчезне, те губят не само аудиторията си, но и доверието и доходите си. И тъй като платформите не предоставят конкретни причини, засегнатият индивид остава на тъмно. Отговорността тихо се измества от компанията към индивида: „Може би тонът ви е бил твърде груб, може би темата ви е твърде рискована.“ Така възниква най-коварната форма на цензура: самоцензура. Ситуацията става особено критична, когато правителствените агенции и платформите си сътрудничат. Вече съществуват официални канали за докладване между министерствата и компаниите за социални медии. Европейската комисия поддържа свои собствени работни групи, в които представители на правителството могат директно да препращат информация за предполагаемо „опасно“ съдържание към платформите. Тези платформи, от своя страна, формално действат „доброволно“, но в действителност те работят от името на политически директиви. Резултатът е нова форма на непряка цензура: държавата не изтрива сама съдържанието; тя го изтрива. На национално ниво вече съществуват структури, които се простират далеч отвъд първоначалния обхват на Закона за защита на мрежите (NetzDG). Специализирани екипи във Федералната служба за криминална полиция (BKA), Федералното министерство на външните работи и няколко провинциални министерства наблюдават и класифицират съдържанието и, ако е необходимо, го докладват на платформите. Това, което започна като средство за борба с речта на омразата, се превърна в система за управление на информацията. Правилата на платформата и правните норми са преплетени, създавайки опасна сива зона между частното корпоративно право и публичното наказателно право. Междувременно техническите системи стават все по-прецизни. Съвременните модели на изкуствен интелект анализират не само думите, но и тона на гласа, контекста и съдържанието на изображенията. Те разпознават ирония, емоции и политически рамки. Това създава система за дигитална репутация, която поставя всяко изказване в социален контекст. Всеки, който многократно споделя съдържание, считано за „гранично“, автоматично губи видимост, без никакви съдебни производства, без никаква възможност за защита и без прозрачност. Тази автоматизирана форма на контрол на дискурса създава нова социална структура: такава, в която властта вече не се упражнява видимо, а се разпределя статистически. Тези, които говорят в рамките на границите, са възнаградени. Тези, които ги прекрачват, изчезват. Не в затвора, а в алгоритъма. Поне традиционната цензура на пресата е имала цензори с имена. Днес никой не знае кой решава. Това е наистина опасното в настоящето: границата между свободата на словото и дигиталното престъпление вече не е различима и може да се измества ежедневно. От подозрение до претърсване на дома:

Как взаимодействат съдебната система и изкуственият интелект

В традиционната концепция за върховенството на закона, между подозрението и претърсването на дома стои пречка: съдебен контрол. Целта е да се гарантира, че намесата се извършва само когато има действителни доказателства за престъпление. На практика обаче този надзор в много случаи се е превърнал в чиста формалност. Дигиталното подозрение вече не произлиза от съзнанието на следовател, а по-скоро от кода на машина и след това се легитимира с правен печат. Пътят от критичен текст до обиск на жилище често е по-кратък, отколкото може да се мисли. Публикация се докладва на платформа или се маркира като „подозрителна“ от автоматизирана система. Операторът на платформата генерира доклад, често допълнен от машинно генерирани оценки на риска. След това тези доклади се препращат до орган или прокуратура, която ги използва за започване на разследвания. Впоследствие се иска съдебна заповед, често базирана на снимки на екрана, автоматизирани анализи или цитати, извадени от контекста. Съдебното решение обикновено се издава писмено, в рамките на няколко часа. Представените документи рядко съдържат пълно описание на случая, а само съответните откъси, които подкрепят подозрението. Във времена на дигитално претоварване и политическа чувствителност едва ли някой би поел риска да отхвърли заявление. Заповедта се подписва бързо и по този начин интервенцията е законосъобразна, поне на хартия. Следва рутина: претърсвания рано сутрин, изземване на всички електронни устройства, дублиране на твърди дискове, конфискация на смартфони, бележки и устройства за съхранение на данни. Полицията действа по заповед на съдия, прокуратурата се позовава на „задължението си да разследва“ и в крайна сметка никой не е подведен под отговорност. Но щетите са реални – професионални, психологически и социални. Дори ако производството по-късно бъде прекратено, стигмата остава. Засегнатото лице се възприема като някой, „който е бил разследван“. Не е нужно човек да е юрист, за да осъзнае, че тук се подкопава основен принцип: защитата срещу произволни претърсвания. Член 13 от Основния закон утвърждава неприкосновеността на дома, някога урок, извлечен от тоталитарния опит на 20-ти век. Но тази защита става пореста, когато цифровите конструкции на подозрение са достатъчни като доказателство. Алгоритъмът не може да оцени пропорционалността. Той не познава ирония, контекст, журналистическа сатира. Той изчислява вероятности и по този начин генерира подозрения, които поставят хората в истинско бедствие. Нарастващото използване на така наречените „превантивни мерки“ е особено проблематично. В няколко германски провинции полицията и прокурорите имат право да анализират данни или да претърсват домове, без да е извършено конкретно престъпление, единствено въз основа на прогнозирана заплаха. Такива прогнози се генерират чрез анализ на модели, подкрепен от изкуствен интелект. По този начин хората вече не се преследват за действията си, а за статистическото им сходство с някой, който може да е извършил престъпление. Как е възможно да се стигне до това? Причината се крие във взаимодействието между техническа осъществимост и политическа целесъобразност. Властите отдавна са затрупани от потопа от цифрово съдържание. Системите с изкуствен интелект обещават облекчение, бързина и ефективност. В същото време нараства политическият натиск за предприемане на действия „срещу речта на омразата“ или „дезинформацията“. Това, което се очертава, е опасен съюз: техническото опростяване среща политическите очаквания. Резултатът са разследвания, които се ръководят повече от обществените настроения, отколкото от правните норми. Самите съдии и прокурори стават обект на система за мълчалив контрол. Никой не им нарежда да преследват критично мислещи журналисти или да следят опозиционните гласове. Но те действат в климат, където предпазливостта се възприема като слабост, а твърдостта като дълг. Отказът рискува критика, докато съгласието изпълнява очакванията. По този начин се вземат решения, които са формално правилни, но въпреки това внушават несправедливост.

И има още един аспект: разходите. Всяко претърсване на къща, всеки анализ на дигитална криминалистика, всяка оценка на устройства поглъща огромни суми. Това обвързва следователи, техници, съдии и експерти – ресурси, които липсват другаде, за реални престъпления, за престъпления с „бели якички“, за насилствени престъпления. И все пак това приоритизиране получава малко обществено внимание. Грандиозното нахлуване в хол постига по-голямо въздействие от тихо разследване на заден план. Възпирането е част от стратегията. Този вид сплашване работи, защото засяга отделните хора, но има колективен ефект. То генерира страх, не чрез осъдителни присъди, а чрез съдебни производства. Достатъчно е хората да знаят, че това може да се случи. С това държавата е създала инструмент, който е по-фин и ефективен от всяка явна цензура. Защото там, където царува страхът, разумът е първият, който замълчава.

Политическият език като престъпление: От добър ден до мисловно престъпление

Езикът е бил мярка за свобода във всяка епоха. Когато самите думи се превърнат в риск, това е предупредителен знак. Германия в момента преживява точно това: пълзяща криминализация на езика, в която контекстът вече няма значение, а само подозрението, че дадена дума може да се хареса на „грешните групи“ или да предизвика „грешни асоциации“. Това, което се смяташе за нормално политическо преувеличение преди няколко десетилетия, сега е класифицирано като потенциално опасно. Всеки, който използва термини като „системен провал“, „съпротива“ или „лъжлива преса“, е заподозрян в приемане на екстремистки език, дори ако съдържанието е формулирано обективно и спокойно. Преходът от легитимен протест към уж подривна реторика е станал флуиден. Важното вече не е какво се казва, а кой го казва. Това развитие е особено поразително в публичния дискурс около по-стари цитати. Изявления, които някога са били нещо обичайно, изведнъж изглеждат като провокации. Франц Йозеф Щраус, който някога е осъждал „левия контрол върху мисълта“, вероятно би бил смятан за популист днес. Съвсем наскоро, през 2010 г., Ангела Меркел говори за „мултикултурното общество като неуспешен експеримент“ – твърдение, което вероятно би предизвикало вълна от възмущение днес. Дори Хелмут Шмит изрази критики към имиграцията, трансатлантическите зависимости и натрупването на военни сили – позиции, които днес масовите медии веднага биха били етикетирани като „десни“. Проблемът се крие не само в изместването на обществените норми, но и в загубата на семантична прецизност. Думите се превръщат в сигнали, марки, които маркират принадлежност. Всеки, който използва „грешната“ дума, губи репутация, независимо от съдържанието. Това създава климат, в който мнозина вече не смеят да говорят свободно. Термините се избягват, защото може да звучат „опасно“. Резултатът е езиков механизъм за самозащита, който притъпява обществения дебат. Освен това, системите за цифрово наблюдение не разбират езика; те само го измерват. Алгоритмите не разпознават ирония, сатира или исторически препратки. Когато са обучени на конкретни думи, те реагират като ловни кучета на миризми: безусловно. Когато дадена публикация бъде маркирана, често следва автоматизирана верига от проверки, от филтрите на платформата до центровете за докладване и в крайна сметка до прокуратурата. Там машинно генерираният резултат често се третира като обективно доказателство, въпреки че представлява само статистическа вероятност. Това създава парадоксални ситуации: Журналист цитира пасаж от Третия райх с критично намерение и самият той е заподозрян в разпространение на тази идеология. Сатирик използва провокативен език, за да разобличи злоупотреби, и внезапно е изправен пред наказателни обвинения. Контекстът, значението, намерението се игнорират. Единственият определящ фактор е наличието на маркирана дума. Това развитие има сериозни последици за свободата на изразяване. Когато самият език се счита за потенциална заплаха, дискурсът губи своята еластичност. Политиката се превръща в безрискова езикова игра, медиите - в ехо на предпазливо мнозинство. Публичното пространство се свива до това, което не притеснява никого, и с него изчезва точно това, което прави демокрацията жизнена - триенето. Правното измерение е особено тревожно. Няколко случая през последните години разкриха, че са започнати разследвания въз основа на цитати, символи или лозунги, дори без никакъв криминален контекст. Престъплението „използване на противоконституционни символи“ се тълкува все по-широко. Един цитат, една иронична графика са достатъчни, за да оправдаят разследване. Тежестта на доказване е обърната: държавата вече не е длъжна да доказва намерение; обвиняемият трябва да докаже, че не е имало намерение. Всичко това се случва във време, когато самите държавни власти променят значението на термините. Думи като „устойчивост“, „бойна готовност“ или „повратна точка“ са навлезли в политическия лексикон; звучат като модернизация, но всъщност означават превъоръжаване, адаптация и контрол. Езикът на властта остава недосегаем, докато езикът на критиката е криминализиран. Може би най-голямата вреда обаче е психологическа. Тези, които постоянно трябва да обмислят кои думи им е позволено да използват, губят вътрешната свобода на мисълта. Тогава езикът се превръща не в инструмент, а в окови. Пътят от „Добър ден“ до престъплението срещу мисълта не е скок, а поредица от малки стъпки, които едва се забелязват, защото всички те са направени в името на разума.

Върховенството на закона във филтърния балон: Защо съдиите и прокурорите се подчиняват

За да се разбере защо германската съдебна система понякога се подчинява, когато всъщност би трябвало да спира, трябва да се разберат основните механизми. Никой съдия не получава политическа заповед, никой прокурор не получава тайна команда да заглуши критичните гласове. И все пак системата генерира собствена динамика, която позволява точно това да се случи, изцяло без закони за цензура и изцяло без формален натиск. Върховенството на закона процъфтява на индивидуалната съвест, но функционира чрез йерархия. А тази йерархия е чувствителна към очакванията. В атмосфера на постоянно „управление на кризи“, независимо дали е пандемия, война или дезинформация, натискът да бъдеш „на правилната страна“ става огромен. Никой не иска да бъде възприеман като този, който е издал твърде леки присъди, реагирал е твърде късно или е оставил „потенциална заплаха“ да се освободи. Резултатът е превантивно конформизъм, рефлекс, протичащ в името на сигурността. Към това се добавя и структурен проблем: прокурорите в Германия са обвързани с инструкции. Те са подчинени на съответните министерства на правосъдието. Тези министерства могат, формално и законно, да издават инструкции за започване или спиране на производства или за определяне на приоритети. На практика това означава, че ако даден въпрос е политически чувствителен, всички участващи страни знаят как да действат, дори без изрични инструкции. Никой не е длъжен да казва нищо; системата комуникира невербално. Съдиите, от своя страна, са формално независими, но действат в рамките на политически сигнали, медиен натиск и институционална рутина. Съдебната независимост често свършва там, където липсват време и ресурси. Тези, които подписват десетки заявления за претърсвания, изземвания или телекомуникационно наблюдение всеки ден, е малко вероятно да разгледат пропорционалността на всеки отделен случай. Много решения се издават в ускорени производства, формално правилни, но по същество съмнителни. В същото време начинът, по който работи самата съдебна система, се променя. Цифровите системи за управление на делата, поддържаните от изкуствен интелект анализи на файлове и функциите за семантично търсене отдавна са нещо обичайно. Това, което е било предназначено да опрости работата, има странични ефекти: делата се приоритизират по ключови думи, а оценките на риска са автоматизирани. Базите данни, от които се извличат такива оценки, понякога черпят от същите източници като системите за наблюдение на полицията или самите платформи. Това създава тихи цикли на обратна връзка: Алгоритъмът, който маркира дадено лице като подозрително, едновременно предоставя основата за вземане на решение относно неговата наказателна значимост. Езикът, използван в системата на правосъдието, също се е променил. Термини като „потенциална заплаха“, „радикализирани лидери на общественото мнение“ или „дезинформационни субекти“ вече са част от вътрешни документи и учебни материали. Те звучат технически, но са силно политически. Всеки, етикетиран като такъв, автоматично губи презумпцията си за невинност; той вече не се възприема като гражданин, а като риск. Това променя перспективата на разследващите. Подозрението се превръща в заплаха, заплахата – в дело, а делото – в претърсване на къща. Много съдии и прокурори със сигурност са наясно с проблема. Но те работят в система, която допуска малко несъгласие. Всеки, който задава твърде много въпроси, се счита за труден. Тези, които настояват за спазване на върховенството на закона, са етикетирани като откъснати от реалността. Моралният натиск да се „прави правилното нещо“ замества правните съображения. По този начин постепенно се появява климат на мълчаливо съгласие, не от злоба, а от удобство, страх или кариеризъм. Последиците са сериозни. Върховенството на закона губи ролята си на щит за своите граждани и се превръща в изпълнител на неясен наратив за сигурност. Вместо да защитава основните права срещу прекомерност на изпълнителната власт, то ги легитимира. Процесът се развива тихо, почти незабележимо. Нито един закон не е нарушен, нито един принцип не е официално спрян. Всичко формално остава в ред; само основната същност ерозира. И над всичко това витае технологията. Новите правни инструменти, цифровите досиета по делата и автоматизираните анализи на делата създават нов вид зависимост. Те предполагат обективност там, където в действителност са вградени политически пристрастия. Когато една система научи, че определени термини, теми или източници често се свързват с разследвания, тя започва да подсилва точно тези модели. След това системата на правосъдието работи в рамките на алгоритмичен филтърен балон, като просто потвърждава това, което вече подозира. Това създава парадокс: Върховенството на закона, създадено, за да защитава хората от произволната власт на държавата, се превръща в инструмент на самата тази власт, не защото е авторитарно, а защото е автоматизирано. Човешките същества изчезват от процеса на вземане на решения, заменени от числа, вероятности и сигнали. Върховенството на закона остава на хартия, но духът му се изпарява, байт по байт.

Машината на страха – как контролът се превръща в метод

В крайна сметка страхът остава. Той е невидимият продукт на система, която се описва като рационална и необходима. Страхът не е случаен, а инструмент и работи по-добре от всяка явна цензура. Тези, които се страхуват, наблюдават себе си. Тези, които наблюдават себе си, мълчат. Тази логика сега оформя ежедневието в политическия и медиен живот. Не зрелищни забрани, а фини механизми държат обществото под контрол. Обиск на къща тук, забрана там, медиен трик от време на време – това е достатъчно, за да изпрати послание: Виждаме всичко. Знаем всичко. И действаме, когато сметнем за необходимо. Останалото се урежда от само себе си. Това създава климат на постоянна предпазливост. Хората обмислят дали трябва да споделят определена статия, дали критиката може да бъде разбрана погрешно, дали принадлежат към грешната група. Това е същата логика, която някога е преобладавала в тоталитарните системи, само че без своята бруталност. Днес самото знание, че си наблюдаван, е достатъчно. Контролът замества насилието. Специалното на този нов страх е неговата нежност. Никой не вика, никой не заплашва. Всичко се случва формално правилно, вградено в закони, разпоредби и „условия за ползване“. Всяка намеса може да бъде оправдана: защита на демокрацията, борба с омразата, поддържане на сигурността. Но сборът от тези оправдания създава общество, в което свободата на словото се толерира само докато не причинява смущения. Класическата цензура се защитаваше чрез забрани. Дигиталната цензура се маскира като отговорност. Тя вече не изтрива присъдата, а нейния обхват. Тя не преследва мислите; тя предотвратява тяхното разпространение. Новият цензор не носи униформа, а пише код. Той определя какво остава видимо и кой изчезва в сенките. Съдебната система, медиите, политиката – всички те са се установили в тази система. Някои, защото вярват, че тя осигурява стабилност. Други, защото се страхуват да бъдат изключени. Това, което се губи в този процес, е основата на едно отворено общество: доверие. Доверие във върховенството на закона, в свободата на печата, в правото да грешиш. Без доверие остава само контрол, а контролът поражда недоверие. Това е истинският порочен кръг на нашето време: Система, която в името на сигурността постоянно създава нови механизми за контрол, произвежда самата несигурност, от която твърди, че защитава. Колкото повече данни се събират, толкова повече съдържание се блокира, колкото повече заподозрени се изфабрикуват, толкова по-голямо става недоверието между гражданите и държавата. Тези, които се осмеляват да критикуват това развитие днес, обикновено го правят под обвинението, че самите те са част от проблема. По този начин критиката на контрола сама по себе си е контролирана. Това е моментът, в който свободата вече не е застрашена от закони, а от обществени настроения. Но не всичко е загубено. Пътят назад започва с образованието и смелостта да се говори открито за тези проблеми. Машината на страха процъфтява от мълчанието. Тя губи силата си веднага щом бъде назована. Това е задачата на журналисти, художници, адвокати и граждани: да направят видимо това, което е станало невидимо. Защото не става въпрос за технологии, не за алгоритми, дори не за данни. Става въпрос за основната концепция за човечеството. За това дали държавата се доверява на своите граждани или просто ги администрира. Независимо дали защитава свободата им или я ограничава. Върховенството на закона никога не е било перфектно, но е изградено върху идеята, че човешките същества са повече от риск. Ако тази идея се срине, всичко останало се срива с нея. Ето защо сега е моментът да се утвърди отново принципът на свободата, срещу вълната на страха, срещу изкушението на самодоволството. Не чрез съпротива в героичния смисъл, а чрез постоянство. Чрез простата, непоколебима дума. Защото думите, колкото и малки да изглеждат, са последното нещо, което остава на човек, когато алгоритъмът вече е решил, че е по-добре да мълчи.

Източници:

Polizei durchsucht Wohnung von Norbert Bolz in Berlin – „Hausdurchsuchung wegen Tweet: Der Medienwissenschaftler hatte einen ironischen Kommentar gepostet, der laut Staatsanwaltschaft auf ein Verbot verfassungsfeindlicher Symbole hindeuten könnte.“
https://www.faz.net/aktuell/feuilleton/medien-und-film/medienpolitik/polizei-durchsucht-wohnung-von-norbert-bolz-in-berlin-110746329.html

„Fast alle Meldungen ans BKA erfolgen durch ‚Trusted-Flaggers‘“ – Artikel über die Zentrale Meldestelle für strafbare Inhalte im Internet (ZMI) beim BKA: „Die Meldestelle existiert seit 1. Februar 2022 und sammelt Hinweise zu Hass, Hetze und strafbaren Inhalten im Netz, die dann an Strafverfolgungsbehörden weitergeleitet werden.“
https://www.heise.de/news/Strafverfolgung-Fast-alle-Meldungen-ans-BKA-erfolgen-durch-Trusted-Flaggers-10626332.html

„Strafbare Inhalte im Internet: BKA erhält 13.730 Meldungen“ – Zwischenbilanz der ZMI: „Über 13.700 Meldungen von Juni 2021 bis September 2023; rund 80 % davon an Strafverfolgungsbehörden weitergeleitet.“
https://www.heise.de/news/Strafbare-Inhalte-im-Internet-BKA-erhaelt-13-730-Meldungen-9430424.html

„Datenschutz: Diskussion um Palantir – Was soll die Polizei dürfen?“ Handelsblatt. Zum Einsatz von Palantir-Software in Deutschland und den datenschutzrechtlichen Risiken.
https://www.handelsblatt.com/politik/deutschland/datenschutz-diskussion-um-palantir-was-soll-die-polizei-duerfen/100147300.html

„Palantir: US-Software zum Überwachen auch in Deutschland?“ Deutschlandfunk. Analyse über Einsatz und Kritik der Software im Polizeikontext.
https://www.deutschlandfunk.de/palantir-deutschland-polizei-software-datenschutz-100.html

Zentrale Meldestelle für strafbare Inhalte im Internet (ZMI) beim Bundeskriminalamt

Offizielle Seite: „Zentrale Meldestelle für strafbare Inhalte im Internet (ZMI) – BKA“. Informationen zur Einrichtung und Aufgabe der Meldestelle.
https://www.bka.de/DE/KontaktAufnehmen/KontaktBesondereThemen/MeldestelleHetzeImInternet/meldestelle_node.html

Zwischenbilanz: „Strafbare Inhalte im Internet: BKA erhält 13.730 Meldungen“ Heise. Detaillierte Zahlen und Einschätzung zur Tätigkeit der ZMI.
https://www.heise.de/news/Strafbare-Inhalte-im-Internet-BKA-erhaelt-13-730-Meldungen-9430424.html

Kritik an Datenanalyse-Software / Überwachungspotenzial

Heise Background: „Palantir-Software für die Polizei: Ermittlung oder Überwachung?“ Detaillierte Kritik am Einsatz in deutschen Bundesländern.
https://www.heise.de/hintergrund/Palantir-Software-fuer-die-Polizei-Ermittlung-oder-Ueberwachung-10497555.html

Zusammenarbeit Staat / Plattformen / Meldestellen

Pressemitteilung der Medienanstalten & BKA: „Zum 9. Aktionstag zur Bekämpfung von Hasspostings – BKA & Medienanstalten arbeiten bundesweit …“
https://www.die-medienanstalten.de/en/presse/pressemitteilungen/zum-9-aktionstag-zur-bekaempfung-von-hasspostings-bundeskriminalamt-und-medienanstalten-arbeiten-bundesweit-im-kampf-gegen-hassrede-zusammen

Netzpolitik.org: „Zentrale Meldestelle: Bundeskriminalamt plant jetzt ohne Zuarbeit der sozialen Netzwerke“. Hintergrundartikel zur Praxis der Meldestelle und Plattformbeteiligung.
https://netzpolitik.org/2022/zentrale-meldestelle-bundeskriminalamt-plant-jetzt-ohne-zuarbeit-der-sozialen-netzwerke/

Гюнтер Бурбах, роден през 1963 г., е IT специалист, публицист и автор. След като пише своя собствена колонка за седмичен вестник, той работи в редакционния отдел на Funke Media Group. Публикувал е четири книги, фокусирани върху изкуствения интелект, както и върху германската вътрешна и външна политика. В писането си той съчетава техническо разбиране със социално-политическа перспектива – винаги с цел да стимулира дебати и да изостри фокуса върху това, което е съществено.