Nárast využívania umelej inteligencie v posledných mesiacoch priniesol viaceré riziká, ktoré sú s novou technológiou spojené. Okrem etických obáv odborníci varujú aj pred viacerými bezpečnostnými hrozbami. Tie sa najnovšie premietli do využívania AI teroristami a nebezpečnými extrémistami na šírenie propagandy. Umelá inteligencia totiž vytvára neporovnateľne sofistikovanejší záškodnícky obsah, ako dokáže vytvoriť človek. Pri zadaní správnych príkazov navyše vygeneruje materiály, ktoré dokážu obísť systémy digitálnych platforiem na prevenciu nežiaduceho obsahu. Hoci umelá inteligencia v mnohých prípadoch pomáha kyberkriminálnikom vytvárať malvér či detskú pornografiu, môže byť aj užitočným nástrojom pri prevencii.
Na aktívne využívanie umelej inteligencie teroristami a nebezpečnými extrémistami upozornila vo svojej správe iniciatíva Tech against Terrorism. Výskumníci majú každý týždeň predchádzať cez 5000 príspevkom vytvorených AI. Za posledné obdobie išlo primárne o obsah šírení rôznymi skupinami sympatizujúcimi s libanonským Hizballáhom a palestínskym Hamasom. Zámerom týchto aktivít má byť záujem o ovplyvnenie naratívu ohľadne prebiehajúceho izraelsko-palestínskeho konfliktu.Iné teroristické organizácie taktiež využívajú umelú inteligenciu na dosiahnutie svojich cieľov. Islamský štát napríklad publikoval návod, ako sa dajú bezpečne používať rozličné AI nástroje na tvorbu propagandistických materiálov. Ani al-Qaeda nezaostáva v zneužívaní moderných technológií. Zameriava sa najmä na generovanie falošných obrázkov. Záškodníkom pomáha umelá inteligencia vo viacerých ohľadoch. Užitočnou sa ukazuje byť funkcia rýchleho prekladu do takmer akéhokoľvek jazyka. Preklady sú zväčša vysoko kvalitné, čo zvyšuje dôveryhodnosť nepravdivých informácií šírených týmito skupinami. Písanie personalizovaných správ za pomoci AI zase zvyšuje efektivitu náboru nových členov. Technológia tiež zjednodušuje recyklovanie propagandy, teda využitie upravenej informácie z minulosti. Umelú inteligenciu na vygenerovanie nebezpečného obsahu však nevyužívajú len islamskí teroristi. Zistenia zo správy poukázali aj na neonacistické skupiny zneužívajúce mainstreamovú aplikáciu dostupnú v obchode Google Play. Antisemitské, rasistické a nacistické obrázky vytvorené týmto AI nástrojom mali byť následne zdieľané na digitálnych platformách. Pridávať sa začali aj krajne pravicové osobnosti šíriace rady na vytvorenie extrémistických memečiek za pomoci novej technológie.Technologické spoločnosti za posledné roky investovali milióny do vytvorenia obrovských databáz, ktoré majú za cieľ pomáhať s predchádzaním nebezpečne extrémistického a teroristického obsahu. Platformy stoja za vytvorením takzvanej hashovacej databázy, na základe ktorej dochádza k automatickému detegovaniu a následnému zmazaniu podobného typu príspevkov. Problémom však je skutočnosť, že sofistikovanosť materiálov vytvorených AI dokáže tieto opatrenia obísť. Experti preto upozorňujú na nebezpečenstvo využívania takéhoto obsahu rôznymi skupinami. Znamená to totiž značné problémy pre aktuálne bezpečnostné mechanizmy spoločností. Extrémisti sa zameriavajú v svojich kampaniach najmä na malé platformy, keďže tie majú nepomerne obmedzenejšie zdroje na boj proti extrémizmu. Dobrou správou však je, že Tech against Terrorism spolu s firmou Google nedávno predstavila nový nástroj s menom Altitute. Ten by mohol značne pomôcť menším platformám s prevenciou nebezpečného obsahu. Riešenie je totiž bezplatné a umožňuje sledovať dezinformácie a iný nebezpečný obsah v online priestore. Firmám pomôže detegovať teroristické, antisemitické či extrémistické príspevky. Celý systém bude po integrácii prepojený s centrálnou databázou Tech against Terrorism. Platformy si tak dokážu pozrieť, či ide o obsah označený za extrémistický. Príspevky nebudú nástrojom automaticky vymazané, platformám bude poskytovať užitočné informácie na boj s terorizmom. Toto môže značne pomôcť sociálnym sieťam ako Telegram pri prevencii šírenia nebezpečného obsahu.