Вештачка интелигенција манипулише и фабрикује информације: Експерименти открили опасну страну AI

Вештачка интелигенција све више постаје део свакодневице, али нови експерименти показују да она није ни приближно поуздана колико се верује. Истраживања указују да AI може једнако уверљиво да заступа и истину и потпуну лаж, у зависности од података којима располаже. 

Проблем лежи у томе што алгоритми не разликују истините од нетачних информација, већ само предвиђају највероватнији одговор. То значи да могу да генеришу текстове, анализе, па чак и „научне доказе“ који у стварности немају никакво утемељење. 

Посебно забрињава експеримент у ком је креиран потпуно измишљен текст са лажним подацима и изворима, који су AI системи касније препознавали као релевантан и поуздан садржај. Чак и када је указано да је реч о неистини, модели нису мењали своје одговоре. 

У појединим случајевима, вештачка интелигенција је упорно бранила нетачне тврдње, попут апсурдне идеје да је „2 + 2 = 5“, поткрепљујући их измишљеним референцама и објашњењима. Ово показује колико лако може доћи до манипулације и ширења дезинформација. 

Стручњаци упозоравају да се AI све чешће користи као лични саветник — од здравља до финансија — што додатно повећава ризик ако се њени одговори некритички прихватају. Зато је неопходно проверити све добијене информације и не ослањати се искључиво на алгоритме.