Keçən il OpenAI şirkəti süni zəka əsaslı GPT-4 dil modelinin mümkün risklərini və üstünlüklərini yoxlamaq üçün 50 nəfər mütəxəssisi işə cəlb etmişdi. GPT-4 dil modelinin testi çərçivəsində Roçester Universitetinin kimya mühəndisliyi professoru Andrew White neyron şəbəkəsi vasitəsilə yeni növ sinir iflici zəhərini yarada bilib. “Qırmızı komanda” kimi bilinən tədqiqatçılar qrupu GPT-4 üzərində testləri 6 ay ərzində aparıb və bütün bu müddət ərzində mütəxəssislər neyron şəbəkəsinin zəif tərəflərini aşkar etməyə çalışıblar. Andrew White bildirib ki, o, GPT-4-dən kimyəvi silah kimi istifadə edilə biləcək yeni kimyəvi birləşmənin tərtib edilməsini istəyib.

Mütəxəssis GPT-4-ün imkanlarını yeni məlumatlarla (elmi məqalələr və kimyəvi maddələrin istehsalçılarının mündəricatı) genişləndirən pluginlərdən istifadə edib. Bununla yanaşı GPT-4 yeni sinir iflici zəhərinin hazırlanması üçün nəzərdə tutulmuş uyğun yeri də tapıb. Andrew White bildirib ki, GPT-4 sürətli və dəqiq kimyəvi analizlərin aparılması alətlərini təqdim edə bilər. Lakin bu öz növbəsində insanlar üçün böyük risk deməkdir. GPT-4 üzərində 6 ay ərzində aparılmış testlər çərçivəsində mütəxəssislər neyron şəbəkəsinə təhlükəli suallar verməli idilər. Bu üsul ilə OpenAI süni zəka əsaslı dil modelinin toksiklik, qərəzli münasibət və dil üzrə diskriminasiya kimi problemlərini aradan qaldırmaq istəyirdi.