ხელოვნური ინტელექტის სფეროში ერთ-ერთი ცნობილი მკვლევარი, ჯეიკობ კოქსონი, Anthropic-ს და მთლიანად AI-ის ინდუსტრიას ტოვებს. კოქსონი აცხადებს, რომ წამყვანი ტექნოლოგიური კომპანიები თვითგანვითარებადი სუპერინტელექტის შექმნისკენ „უპასუხისმგებლო“ სისწრაფით მიიწევენ და ამ პროცესში შესაძლოა კაცობრიობის უსაფრთხოება სერიოზული რისკის ქვეშ დადგეს.
27 წლის კოქსონმა გადაწყვეტილების შესახებ 9 სექტემბერს სოციალურ ქსელ X-ზე გამოაცხადა. მისი თქმით, ბოლო სამი წლის განმავლობაში ის ხელოვნური ინტელექტის მოდელების pretraining-ის მიმართულებით მუშაობდა როგორც OpenAI-ში, ისე Anthropic-ში.
კოქსონის განცხადებით, ორივე კომპანია არ მოქმედებს საკმარისად პასუხისმგებლიანად.
„ისინი პირდაპირ თვითგანვითარებადი სუპერინტელექტისკენ მიისწრაფვიან და ჩვენს სიცოცხლეს რისკის ქვეშ აყენებენ“, — წერს მკვლევარი.
კოქსონის შეფასებით, მომავალში AI სისტემებმა შესაძლოა ადამიანურ შესაძლებლობებს მნიშვნელოვნად გადააჭარბონ, შეძლონ კიბერშეტევების განხორციელება, სხვადასხვა სფეროს ძალიან სწრაფად გარდაქმნა და რეალურ სამყაროში ძალაუფლებისა და რესურსების მოპოვება.
„ეს მარკეტინგული ხრიკი არ არის“
კოქსონის ყველაზე მძიმე გაფრთხილება ეხება იმ საფრთხეს, რომელსაც, მისი თქმით, თავად ხელოვნური ინტელექტის შემქმნელები ხედავენ.
მისი განცხადებით, AI-ის სფეროში მომუშავე ადამიანების ნაწილი რეალურად ფიქრობს, რომ ტექნოლოგიამ შესაძლოა ათწლეულის ბოლომდე კაცობრიობის არსებობას საფრთხე შეუქმნას.
კოქსონი ამტკიცებს, რომ საჯაროდ კომპანიის ხელმძღვანელები და მკვლევრები ხშირად უფრო ფრთხილ განცხადებებს აკეთებენ, თუმცა პირად საუბრებში მათი შიში გაცილებით უფრო მკაფიოდ ჩანს.
„ეს მარკეტინგული ხრიკი არ არის“, — წერს კოქსონი და ამბობს, რომ თავად სწორედ ასეთი შეშფოთების გამო აღარ სურს აღნიშნულ რბოლაში მონაწილეობა.
რატომ დატოვა Anthropic?
კოქსონი თავდაპირველად Anthropic-ში სწორედ მისი უსაფრთხოებისადმი მიდგომის გამო გადავიდა. თუმცა, მისი შეფასებით, კომპანია საბოლოოდ აღმოჩნდა გლობალურ კონკურენციაში ჩართული, სადაც ტექნოლოგიური ლაბორატორიები ცდილობენ სხვებზე ადრე შექმნან უფრო ძლიერი AI სისტემები.
მისი აზრით, ასეთ კონკურენციაში უსაფრთხოებასა და შესაძლებლობების განვითარებას შორის კომპრომისების გაკეთების რისკი იზრდება.
The Wall Street Journal-თან საუბრისას კოქსონმა განაცხადა, რომ შესაძლოა უკვე მომდევნო წლის ბოლოს სიტუაცია ისეთი გახდეს, როდესაც ზოგიერთი ყველაზე აგრესიული სცენარი კონტროლს მიღმა აღმოჩნდება. ეს შეფასება კოქსონის პროგნოზია და არა დადასტურებული ფაქტი.
მკვლევარი მიიჩნევს, რომ ხელოვნური ზოგადი ინტელექტის ან სუპერინტელექტის პასუხისმგებლიანი განვითარება მხოლოდ კომპანიების კეთილ ნებაზე ვერ იქნება დამოკიდებული და საჭიროა სახელმწიფოების ჩართულობა ან ინდუსტრიის მასშტაბით შეთანხმებული შენელება.
კოქსონის განცხადებას Anthropic-ის სხვა მკვლევარიც გამოეხმაურა
კოქსონის განცხადების შემდეგ საკითხზე ყურადღება კიდევ უფრო გამძაფრდა. Anthropic-ის მკვლევარმა ევან ჰუბინგერმა განაცხადა, რომ პირადად ის ხელოვნური ინტელექტის მიერ კაცობრიობის განადგურების ალბათობას მომდევნო ათწლეულში 10%-ზე მეტად აფასებს.
ამასთან, მნიშვნელოვანია აღინიშნოს, რომ ეს ჰუბინგერის პირადი შეფასებაა და არა Anthropic-ის ოფიციალური პროგნოზი.
კოქსონის წასვლა განსაკუთრებით მნიშვნელოვანია იმის გამოც, რომ მან გადაწყვეტილება მიიღო არა ტექნოლოგიური კომპანიის სხვა კომპანიით ჩანაცვლების მიზნით, არამედ განაცხადა, რომ AI-ის ინდუსტრიიდან მთლიანად მიდის.
მისი თქმით, მკვლევრებმა უნდა დაფიქრდნენ, როგორი იქნება მათი როლი იმ მომენტში, როდესაც უფრო ძლიერი და შესაძლოა თვითგანვითარებადი AI სისტემების შექმნა დაიწყება.
კოქსონმა AI-ის სფეროში მომუშავე მკვლევრებს მოუწოდა, არ ჩათვალონ არსებული მიმართულება გარდაუვალ რეალობად და მოითხოვონ განვითარების უფრო მკაცრი უსაფრთხოების პირობები.
კოქსონის სრული განცხადება
ჯეიკობ კოქსონის ოფიციალური X-ანგარიშია @hilbertspaess. მისი 7-პოსტიანი განცხადება ხელმისაწვდომია აქ: ჯეიკობ კოქსონის განცხადება X-ზე
მისი განცხადების სრული თრედის არქივირებული ვერსიაც ხელმისაწვდომია Thread Reader-ზე. კოქსონის სრული თრედი
Multimedia.ge-ს დამფუძნებელი და მთავარი რედაქტორი.
ინტერნეტ რესურსი 2018 წლიდან ფუნქციონირებს