მზარდი და მითითებებზე უფრო მეტად მორგებული ხელოვნური ინტელექტის ენობრივი მოდელები არასანდო ხდება

ხელოვნური ინტელექტი და დიდი ენობრივი მოდელები (Large Language Models, LLM), რომელთა შორისაც წამყვანია ChatGPT, სულ უფრო მეტად ხდება ჩვენი ცხოვრების ნაწილი. განათლებიდან ჯანდაცვამდე, მეცნიერებიდან მმართველობამდე მრავალ სფეროში ფართოდ გამოყენებული ეს მოდელები ზომისა და სირთულის მხრივ სწრაფად ვითარდება. თუმცა მათი ზრდისა და მითითებებზე უფრო მეტად მორგების პარალელურად, მათი სანდოობა კითხვის ნიშნის ქვეშ დადგა.

მითითებებზე უფრო მეტად მორგება ნიშნავს, რომ ხელოვნური ინტელექტის მოდელებს მომხმარებლის კონკრეტულ ბრძანებებსა თუ ინსტრუქციებზე უკეთ შეუძლიათ რეაგირება. ეს მოიცავს სხვადასხვა ცვლილებას, რომელთა მიზანია მოდელების გაუმჯობესება სწავლებისას ადამიანური უკუკავშირით, კონკრეტული მითითებების უფრო ზუსტად გაგება და მომხმარებლის საჭიროებებზე უკეთ მორგებული პასუხების შექმნა. მითითებებზე მორგებულ მოდელებს მომხმარებლის პირდაპირ ბრძანებებსა თუ კითხვებზე უფრო მოქნილად და გასაგებად შეუძლიათ პასუხი, თუმცა ამ პროცესმა ზოგჯერ არასწორი ან შეცდომაში შემყვანი პასუხებიც შეიძლება გამოიწვიოს. არის ეს ცუდი?

მითითებებზე უკეთ მორგებულმა მოდელებმა ზოგჯერ შეიძლება გასცეს მომხმარებლის სურვილის შესაბამისი, „აზრიანად“ მოჩვენებითი, მაგრამ სინამდვილეში არასწორი პასუხები. ეს მოდელის „ყოველთვის პასუხის გაცემის“ მიდრეკილების გამო ხდება და მომხმარებელს შეცდომის შემჩნევას ურთულებს. განსაკუთრებით ისეთ კრიტიკულ სფეროებში, როგორიცაა მედიცინა ან მეცნიერება, ამ შეცდომაში შემყვანმა პასუხებმა შეიძლება სერიოზული შეცდომები და არასწორი გადაწყვეტილებები გამოიწვიოს.

Lexin Zhou-სა და მისი გუნდის მიერ 2024 წლის 25 სექტემბერს Nature ჟურნალში გამოქვეყნებული კვლევა ამ შეშფოთებას მეცნიერულ ჩარჩოში აქცევს და აჩვენებს, რომ ხელოვნური ინტელექტის სისტემების გაძლიერებასთან ერთად მათი სანდოობა შეიძლება მოულოდნელად შემცირდეს.

ამ სტატიაში განვიხილავთ, როგორ იწვევს სანდოობის პრობლემებს დიდი ენობრივი მოდელების მასშტაბირებისა და სწავლების არსებული სტრატეგიები. შევეხებით იმას, თუ რატომ შეიძლება უფრო დიდმა და მითითებებზე უკეთ მორგებულმა ხელოვნური ინტელექტის მოდელებმა მომხმარებლებს შეცდომაში შემყვანი შედეგები მიაწოდოს და განსაკუთრებით კრიტიკულ სფეროებში რა რისკები ახლავს ამას.

რატომ ხდება დიდი ენობრივი მოდელები უფრო არასანდო?

ხელოვნური ინტელექტის მოდელების უფრო დიდ მონაცემთა ნაკრებებზე სწავლება, მეტი პარამეტრის ქონა და ადამიანური უკუკავშირის მსგავსი მეთოდებით ფორმირება ამ სისტემებს აძლიერებს. თუმცა Zhou-სა და კოლეგების შედეგებით, მოლოდინის საწინააღმდეგოდ, ეს გაუმჯობესებები სანდოობას არ იძლევა გარანტირებულად. კვლევის მთავარ შედეგებს შემდეგი მიმართულებებით შევაჯამებთ:

1. სირთულის შესაბამისობა და შეცდომისკენ მიდრეკილება: ადამიანებისთვის მარტივი დავალებები, ჩვეულებრივ, დიდი ენობრივი მოდელებისთვისაც მარტივია. თუმცა მოდელის ზრდასთან ერთად მოულოდნელი შეცდომები სირთულის დაბალ დონეზეც შეიძლება გამოვლინდეს. მოდელები ხშირად ცდება ისეთ დავალებებში, როგორიცაა მარტივი მათემატიკური მოქმედებები ან სიტყვიერი თამაშები, რომლებსაც ადამიანები იოლად წყვეტენ. ეს მომხმარებლების ნდობას მოდელის სანდოობის მიმართ ასუსტებს. განსაკუთრებით GPT-ისა და LLaMA-ს მსგავსი მოდელების ანალიზმა აჩვენა, რომ შეცდომების მაჩვენებლები დაბალი სირთულის მაგალითებშიც იზრდებოდა.

2. დავალებისთვის თავის არიდება და შეცდომაში შემყვანი პასუხები: ადრეული ენობრივი მოდელები ხშირად მომხმარებლის კითხვას უპასუხოდ ტოვებდა ან უსაფრთხო მიდგომას ირჩევდა, მაგალითად: „ამ საკითხზე პასუხს ვერ გაგცემთ“. თუმცა მითითებებზე უკეთ მორგებული მოდელები ახლა კითხვის უპასუხოდ დატოვების ნაცვლად უფრო მეტად არის მიდრეკილი, შესთავაზოს ლოგიკურად მოჩვენებითი პასუხები, თუნდაც ისინი არასწორი იყოს. ამ შეცდომაში შემყვან პასუხებს განსაკუთრებით რთულ და კრიტიკულ საკითხებზე შეიძლება სერიოზული შედეგები ჰქონდეს. კვლევამ აჩვენა, რომ GPT-4-ისა და LLaMA-2-ის მსგავსი განვითარებული მოდელები პასუხისგან თავის არიდების ნაცვლად არასწორ პასუხებს იძლევა მაშინ, როდესაც პასუხის გაცემა უჭირს.

3. პასუხების თანმიმდევრულობა და შეცდომაში შემყვანი ნდობა: მიუხედავად სხვადასხვა ფორმულირებით დასმულ კითხვებზე ენობრივი მოდელების პასუხების თანმიმდევრულობის გაუმჯობესებისა, Zhou და მისი გუნდი აღნიშნავენ, რომ ეს გაუმჯობესებები ნდობის შეცდომაში შემყვან განცდას ქმნის. ერთი და იმავე კითხვის სხვადასხვაგვარად დასმისას მოდელი ზოგჯერ სწორ, ზოგჯერ კი არასწორ პასუხს იძლევა. ამან შეიძლება სახიფათო მცდარი წარმოდგენა შეუქმნას განსაკუთრებით იმ მომხმარებლებს, რომლებსაც მოდელი სანდოდ მიაჩნიათ. მაგალითად, მარტივ მათემატიკურ მოქმედებაზე მოდელმა ერთხელ სწორად უპასუხოს, სხვა დროს კი შეცდომა დაუშვას.

მოდელის სანდოობის შემცირება: მიზეზები და შედეგები

დიდი ენობრივი მოდელების მეტი მონაცემითა და პარამეტრით სწავლება, ჩვეულებრივ, უფრო რთული პრობლემების გადაჭრის უნარს ზრდის. თუმცა მარტივ პრობლემებზეც არასწორი პასუხების ალბათობის მატება მომხმარებლებს სერიოზულ პრობლემებს უქმნის. Zhou და მისი გუნდი ამტკიცებენ, რომ ამ მოდელების მასშტაბირება შეცდომების სრულად აღმოფხვრის ნაცვლად უფრო მეტ შეცდომას შეუმჩნეველს ხდის. ამის შედეგად მომხმარებლებმა შეიძლება მიიღონ არასწორი შედეგები შეუმჩნეველი შეცდომების გამო და ამ შედეგებზე დაყრდნობით არასწორი გადაწყვეტილებები მიიღონ.

ადამიანის ზედამხედველობა: საკმარისია?

ხელოვნური ინტელექტის სისტემებზე ზედამხედველობა მნიშვნელოვანი სტრატეგიაა, რომელიც ამ მოდელების სანდოობის გასაზრდელად გამოიყენება. თუმცა კვლევამ აჩვენა, რომ ადამიანის ზედამხედველობა ყოველთვის საკმარისი არ არის და ადამიანები განსაკუთრებით რთულ დავალებებში მოდელის შეცდომებს ვერ ამჩნევენ. განსაკუთრებით მაღალი სირთულის შეცდომების ვერგამოვლენა კრიტიკულ სფეროებში მომხმარებლებისთვის დიდ რისკს ქმნის. ეს კიდევ უფრო მნიშვნელოვანია ისეთ მაღალი რისკის სფეროებში, როგორიცაა ჯანდაცვა და მეცნიერება. არასწორმა დიაგნოზმა ან მცდარმა სამეცნიერო მონაცემმა შეიძლება შეუქცევადი შედეგები გამოიწვიოს.

დასკვნა და მომავლის პერსპექტივები

სამყაროში, სადაც ხელოვნური ინტელექტის გამოყენება სულ უფრო იზრდება, დიდი ენობრივი მოდელების სანდოობას დიდი მნიშვნელობა აქვს. Zhou-სა და მისი გუნდის კვლევა ხაზს უსვამს, რომ არსებული სტრატეგიები სანდოობის გასაზრდელად არასაკმარისია და უფრო ფუნდამენტური ცვლილებაა საჭირო დიზაინში. ამ მოდელების გამოყენება განსაკუთრებით მაღალი რისკის სფეროებში მეტ სიფრთხილეს მოითხოვს როგორც მომხმარებლების, ისე შემქმნელების მხრიდან.

ეს შედეგები მნიშვნელოვანი გზამკვლევი იქნება ხელოვნური ინტელექტის სისტემების სანდოობის გასაზრდელი მომავალი კვლევებისთვის. აშკარაა, რომ დიდმა ენობრივმა მოდელებმა სანდოობის გარკვეულ სტანდარტს რომ მიაღწიონ, ძირეული ცვლილებებია საჭირო როგორც მასშტაბირების, ისე სწავლების სტრატეგიებში.