Чини ли вам се да се умјетна интелигенција понекад поиграва с вама, нудећи вам потпуно погрешне одговоре на постављена питања или потпуно погрешна рјешења разних проблема? У праву сте!
У рапидном развоју вјештачке интелигенције (ВИ, енгл. AI), нарочито у оквиру великих језичких модела (ЛЛМ, енгл. LLM) који се користе у четботовима, појавио се озбиљан проблем – генерисање лажних или нетачних информација које модели представљају као вјеродостојне. Овај феномен је познат као „ВИ халуцинације“. Поред тога што је препознат од стране стручњака, и даље представља значајну пријетњу интегритету научних истраживања и развоју човјечанства.
Ово је потврђено и у студији истраживача с „Оксфордског интернет института“ који у свом раду објављеном у часопису Nature Human Behaviour наводе да ЛЛМ-ови јесу дизајнирани да дају корисне информације, али да не садрже доказиве чињенице и да могу бити засноване на нетачним или непровјереним подацима, нарочито због њихове тенденције да користе онлајн изворе који нису увијек поуздани.
Халуцинације се могу појавити у многим примјенама умјетне интелигенције, као што су модели компјутерског вида, а не само модели обраде природног језика. У компјутерском виду, на примјер, систем умјетне интелигенције може произвести халуциногене слике или видео-записе који наликују стварним објектима или могу регистровати слику као нешто сасвим друго.
Стручњаци скрећу пажњу и на штетну појаву код људи који ЛЛМ-овима све чешће приписују људске особине, будући да ови модели имитирају људски начин разговора. Увјерени да су ЛЛМ-ови поуздан извор информација, људи лако прихваћају њихове одговоре као тачне, иако они могу бити пристрасни, непотпуни или чак потпуно измишљени. Због тога, истраживачи позивају на опрез у коришћењу ВИ модела, нарочито у научном и образовном контексту, гдје је тачност информација од пресудног значаја. Препоручују да се ЛЛМ користе као алати који могу помоћи у обради и интерпретацији података, али не као примарни извори знања. Умјесто тога, наглашавају потребу за пажљивом провјером и критичким размишљањем при употреби информација добијених од ВИ модела.
