Интервју: Како Тролрензикс иновира софтверски решенија за справување со дезинформациските мрежи

Тролрензикс е компанија од Холандија која развива софтвер за следење на дезинформации и кампањи за хибридно војување преку следење на социјалните мрежи и организираното неавтентично однесување на корисниците. Тие избрале наместо директно толкување или раскринкување на содржината објавена на социјалните мрежи, да работат со „сувопарни“ бројки преку анализа на мрежи, индивидуално и колективното однесување на сомнителни или вешташки сметки на социјалните мрежи

 

На маргините на конференцијата Е-општество тимот на Вистиномер имаше прилика да поразговара не само со Роберт ван дер Ноорда од Тролрензикс, туку и со неговиот колега Ричард Одекеркен. Тролрензикс е компанија од Холандија која развива софтвер за следење на дезинформации и кампањи за хибридно војување преку следење на социјалните мрежи и организираното неавтентично однесување на корисниците.  

Тие опишуваат дека делумно од прагматизам избрале наместо директно толкување или раскринкување на содржината објавена на социјалните мрежи, да работат со „сувопарни“ бројки преку анализа на мрежи, индивидуално и колективното однесување на сомнителни или вешташки сметки на социјалните мрежи. Според нив, оваа методолошка „мрзеливост“ се покажа како исклучиво ефикасен начин на ловење на т.н. „трол фармите“, бидејќи така тие го заобиколуваат прашањето за тоа што е вистина или не е, особено за време на кризи како пандемијата.

Научивме дека работењето со бројки и следењето на образци на однесување за тоа како се шират информациите не само што е полесно од анализата на текст или слики, туку го прави и нашиот систем во голема мера имун на прашањето дали одредено тврдење е точно или неточно, опиша Одекеркен.

Споделија многу провокативен пример – раните дебати за потеклото на вирусот Ковид-19: дали тоа било „протекување“ од лабораторијата во Вухан, дали се пренесува преку на аеросол честичките… Одекеркен посочи дека она што на почеток е означено како „теорија на заговор“ подоцна може да се третира како веродостојно, а дури и авторитетни институции како СЗО ги ревидираа своите ставови за одредени прашања. 

Според ван дер Ноорда, токму оваа неизвесност го зајакнува нивниот аргумент дека фокусирањето на моделите на ширење на дезинформациите и следењето на овие ботовски или трол мрежи често е поефективно наспроти тековното пресудување дали нешто е за вистинито или не.

За време на кризата со коронавирусот, дури и на СЗО ѝ требаше повеќе од една година да ги сменат ставот, па долго време едноставно немаше стабилна вистина на која може да се потпре, поентираше Одекеркен.

Тие тврдат дека централниот проблем на интернетот повеќе не се само лажните информации, туку координираните обиди за нормализирање на наративите полни со омраза. Овие наративи можеби не се фактички лажни во строга смисла, но ги менуваат нормите со тоа што потпалуваат расистичката или екстремистичка содржина да се доживува како општествено прифатлива само затоа што сè почесто и почесто се повторува и се нормализира во јавниот онлајн дискурс.

Во изминатите години гледаме поместувања не само преку дезинформациите, туку повеќе се работи за влијание, односно за ширење наративи, како она што го гледате околу емиграцијата од Западна Европа. На пример, гледате многу расистички идеи промовирани од АФД во Германија или Националниот Фронт [Rassemblement national] во Франција, што не е конкретно лажно, туку шири омраза, објаснува Ван дер Ноорда.

Ваквиот говор тие го опишуваат како „ужасен но легален“ или „awful but lawful“. Ван дер Ноорда и Одекеркен објаснуваат дека нивниот пристап за детекција користи својства на однесувањето на сметките преку кои тие забележуваат дали однесувањето е координирано, поточно однесување кое може да се квантификува (изброи). На пример, дали времето на објавување на потпалувачката содржина е синхронизирано на повеќе профили, дали профилите се креирани во ист ден и дали потекнуваат од иста држава. 

Овој технички фокус беше мотивиран од ефикасноста, но исто така дава „поцврсти“ докази од анализа на самата содржина. Значи, системот што го изградивме е некако, малку чудно, „имун на вистината“. Тоа е така затоа што кога ќе ги погледнеме шемите на тоа како се шират информациите, можеме да ги идентификуваме не преку набљудување на поединци, туку преку одредени наративи што се шират од тие и тие сметки, и гледаме дека сите овие сметки, на пример, објавуваат во исто време, или објавуваат исти пораки, или враќаат на иста сметка од еднеднаш, почнуваат многу рано во денот, што ни кажува дека оперираат во временска зона што е порана од нашата, со ентузијазам објаснуваше Одекеркен.

Ги прашавме како се справуваат со т.н. „лажно позитивни резултати“, односно сметки кои на почеток ги имаат сите карактеристики како неавтентичните сметки. Споделија искуство за случај кога еден профил личел на трол или бот поради екстремно големиот обем на објавувања, но подеталното испитување покажало дека едно лице објавувало опсесивно за време на работното време, заедно со паузите за ручек и одењето во тоалет (се шалат). Ова го илустрира и ризикот од лажни позитивни резултати и етичката тензија меѓу откривањето на манипулациите и почитувањето на индивидуалната слобода на говор.

На пример, видовме сметки кои испраќаа можеби 1.500 пораки дневно. Почнуваа во 8 часот, завршуваа во 5 часот попладне. И изгледа како да е во ред, ова е само ретвитување на секакви работи, честопати е само копирана содржина. Значи, многу јасно е дека станува збор за лице кое очигледно имало некаква работа кадешто неговиот шеф не обрнувал внимание, ако воопшто работел. Но, тој го правел ова за време на работното време. Во секој случај, тоа е лице кое ги остварува своите права на слобода на говор, опишува Одекеркен.

Тие прават разлика помеѓу индивидуални екстремисти, чиј говор може да биде непријатен, но сепак заштитен, и големи координирани мрежи кои шират омраза и пропаганда преку границите. Тие тврдат дека платформите треба да се фокусираат на откривање и отстранување на такви „армии“ од сметки, користејќи ги нивните внатрешни податоци, наместо само да модерираат индивидуални објави.

Една крајно десничарска сметка што шири теории на заговор е сè уште само лице кое ја користи својата слобода на говор, но мрежа од десет или сто илјади сметки кои сите шират иста омраза и пропаганда е армија – и тоа е она што платформите треба да го детектираат и бришат, смета Ван дер Ноорда.

Она што може да го заклучиме во разговорот со Ван дер Ноорда и Одекеркен е дека во борбата со дезинформациите не секогаш се доволни само класичните тактики на справување, како сервисите за проверка на факти, туку и нетипични, но креативни начини како овие софтверски решенија. Односно, т.н. „ сеопфатен пристап на целото општество“ (Whole of society) кадешто е присутен не само граѓанскиот сектор, туку и владините институции и приватниот сектор ќе се вклучат во заштита на граѓаните од посериозни хибридни закани, измами и дезинформациски напади.

 

 

Сите коментари и забелешки поврзани со овој и другите написи на Вистиномер, барањата за корекции и појаснувања, како и предлозите за проверка на изјавите на политичарите и ветувањата на политичките партии, можете да ги доставите преку овој формулар