ChatGPT tərtibatçısı OpenAI, bioloji silahların yaradılmasında geniş GPT-4 dil modelinin effektivliyinə dair araşdırma dərc etdi.
MilliYol.az xəbər verir ki, OpenAI, GPT-4 (artıq ChatGPT Plus abunəsi olan müştərilər üçün əlçatandır) kimi bir modelin ortaya çıxmasının insanların biotəhlükə yaratma qabiliyyətini artırıb-artırmadığını öyrənmək üçün yola çıxıb. Bunun üçün şirkət iki qrup insanın məhsuldarlığını sınaqdan keçirdi: biri bu barədə məlumat tapmaq üçün internetdən, ikincisi isə internetdən və GPT-4-ün tədqiqat versiyasından istifadə edib ki, bu da əlavə təhlükəsizlik tədbirlərinin olmaması ilə ictimaiyyətə təqdim edilən versiyadan fərqlənir.
Hər iki qrup üçün mövzu üzrə hər tapşırığın yerinə yetirilməsi təxminən 20−30 dəqiqə çəkib. Eyni zamanda, süni intellektdən istifadə edən qrup daha dəqiq nəticələr verə bilib.
"Biz GPT-4-ə girişin iştirakçıların biotəhlükə ilə bağlı tapşırıqları yerinə yetirmə dəqiqliyini artırıb-artmadığını qiymətləndirmək istədik. Modelə girişin həm tələbələr, həm də ekspertlər üçün demək olar ki, bütün tapşırıqlar üçün dəqiqlik ballarını yaxşılaşdırdığını gördük. Konkret olaraq, tələbələr üçün 0,25 (10-dan), ekspertlər üçün 0,88 (10-dan) dəqiqliyin orta artımını müşahidə etdik. Bununla belə, bu fərqlər statistik əhəmiyyət kəsb etmirdi”, - OpenAI öz nəticələrində bildirib.
Bundan əlavə, GPT-4 qrupu mövzu ilə bağlı daha çox məlumat tapa bilib. Eyni zamanda, OpenAI bu fərqi statik cəhətdən əhəmiyyətli olmayan adlandırır.
"Bu tədbirdə statistik cəhətdən əhəmiyyətli fərqlər müşahidə etməsək də, modelə çıxışı olan iştirakçıların cavablarının daha uzun olduğunu və daha çox tapşırıqla bağlı detalları ehtiva etdiyini gördük. Həqiqətən, biz GPT-4-ə çıxışı olan tələbələr üçün geri çağırmada orta hesabla 0,41 (10-dan) və tədqiqat üçün yalnız GPT-4-ə çıxışı olan ekspertlər üçün 0,82 (10-dan) artım müşahidə etdik”, - tədqiqat müəllifləri qeyd edirlər.
OpenAI bütün nəticələri statistik əhəmiyyətsiz adlandırsa da, şirkət hələ də onları GPT-4-ün tədqiqat versiyasının "mütəxəssislərin bioloji təhlükələr haqqında məlumat əldə etmək imkanlarını artıra biləcəyinin" göstəricisi hesab edir.
"Qabaqcıl süni intellekt sistemlərinin hazırkı inkişaf tempini nəzərə alsaq, gələcək sistemlərin hücumçulara əhəmiyyətli üstünlüklər verə biləcəyi mümkün görünür. Beləliklə, bizim biorisklərin (həmçinin digər fəlakətli risklərin) yüksək keyfiyyətli qiymətləndirmələrinin geniş spektrini yaratmağımız, "mənalı” riskin nə olduğu barədə müzakirələri dərinləşdirməyimiz və effektiv risklərin azaldılması strategiyaları hazırlamağımız çox vacibdir ”, - OpenAI vurğulayır.
