Decisions API, ჰალუცინაციების დეტექტორები, აგენტის მეხსიერება: AI წყვეტს, ადამიანი ადასტურებს

OpenAI-მ Decisions API საყოველთაო წვდომაში გამოიტანა: სწრაფი პასუხები კითხვებზე, რომლებსაც ვარიანტების შეზღუდული ნაკრები აქვს, კი ან არა, ერთი სიიდან, შეფასება შკალით. IBM-მა ასეთივე გადაწყვეტილებები ჩატთან და მეტყველების ამოცნობასთან ერთად ერთ მოდელში შეკრიბა, n8n-მა კი ორ დღეში სამი სტატია გამოუშვა იმაზე, როგორ დავიჭიროთ მოდელის გამონაგონი და სად შევინახოთ მისი მეხსიერება. ბიზნესის მფლობელისთვის ეს ერთი კითხვაა: რომელი გადაწყვეტილებები შეიძლება მოდელს მივანდოთ და რომელი უნდა დაადასტუროს თანამშრომელმა.

რა გამოვიდა

OpenAI-მ 22 ოქტომბერს განაცხადა Decisions API-ის ბეტადან გამოსვლის შესახებ. დეველოპერი სვამს კითხვას და დასაშვებ პასუხებს, გადასცემს ტექსტს, სურათს ან JSON-ს და იღებს პასუხის სამი ტიპიდან ერთს: ალბათობა 0-დან 1-მდე, არჩევანი სიიდან დარწმუნებულობით ან შეფასება შკალით. OpenAI წერს, რომ პასუხი 10-ჯერამდე უფრო სწრაფად მოდის, ვიდრე იმავე GPT-6 Luna მოდელიდან ჩვეულებრივი Responses API-ით. Box დოკუმენტებს აკლასიფიცირებს და შემდგომ მიმართავს: 30 სადაზღვევო სერტიფიკატზე მარშრუტი დაახლოებით 5-ჯერ სწრაფად ირჩეოდა იმავე სიზუსტით, დაბალი დარწმუნებულობის დოკუმენტები კი ადამიანებთან მიდის შესამოწმებლად. Sierra კლიენტთან ცოცხალ საუბარში შემდეგ მოქმედებას 280 მილიწამზე ნაკლებ დროში ირჩევს და გამოძახებაში 90 %-ით ნაკლებს იხდის.

IBM-მა 15 ოქტომბერს Hugging Face-ის ბლოგში Granite Switch 4.1 აჩვენა 8B და 30B პარამეტრით. იდეა სხვაა. ცალკე სერვისის ნაცვლად ადაპტერები ერთი საბაზისო მოდელის თავზე: გადაწყვეტილებების ადაპტერი, Guardian ადაპტერი ზიანის შესამოწმებლად და ჩაშენებული მეტყველების მოდელი Turbo CTC GPU-ზე დაახლოებით იმდენივე მეხსიერებას იკავებს, რამდენსაც ბაზა მათ გარეშე. ადაპტერები KV-ქეშს იყოფენ, ამიტომ გადაწყვეტილება მოდელის პასუხის შემდეგ თითქმის არაფერი ღირს. ვინც მოდელს თავისთან ინახავს, მისთვის ეს Decisions API-ის პირდაპირი პასუხია.

n8n-მა 22 ოქტომბერს გაარჩია ჰალუცინაციების აღმოჩენის მეთოდები აგენტურ პროცესებში. იქ შეცდომის ოთხი ტიპია: გამოგონილი ფაქტი, პასუხი გადაცემული კონტექსტის მიღმა, მოფიქრებული დეტალები და საკუთარ თავთან წინააღმდეგობა. და მათი დაჭერის ხუთი ხერხი, კონტექსტზე დაყრდნობის შემოწმებიდან დარწმუნებულობის ზღვრებამდე ადამიანისთვის გადაცემით. ჩემთვის მთავარი ფრაზა: ზღვარი შეცდომის ფასს უნდა ასახავდეს. შიდა შეჯამება უზუსტობას გადაიტანს, კლიენტის ჩანაწერის შეცვლა კი ვერა.

იმავე დღეს n8n-მა stateful და stateless მიდგომები შეადარა აგენტებში: მოდელს მოთხოვნებს შორის თავად არაფერი ახსოვს, ამიტომ მდგომარეობა გარეთ ცხოვრობს, ბაზაში ან ქეშში, მოთხოვნების დამმუშავებლები კი მდგომარეობის გარეშე რჩებიან. მეორე დღეს, 23 ოქტომბერს, გამოვიდა სტუმრის სტატია აგენტების მეხსიერებაზე ველკო კოვაჩისგან Cognee-დან: მოკლევადიანი მეხსიერება მიმდინარე სესიაში, გრძელვადიანი ცალკე საცავში. RAG კითხულობს და უკან არ წერს; აგენტის მეხსიერება იქ იწყება, სადაც აგენტი წერს.

რატომ სჭირდება ეს ბიზნესს

ავიღოთ ავტომობილების გაქირავება. ფოსტაზე მოდის წერილი ფოტოთი და ტექსტით „აი მანქანა მგზავრობის შემდეგ“. პირველი გადაწყვეტილებები წვრილმანია: ეს დაბრუნებაა, საჩივარი თუ კითხვა გადახდაზე; ჩანს თუ არა ფოტოზე დაზიანება; რამდენად სერიოზულია ის ნაკაწრიდან ჩაჭყლეტამდე შკალით. ასეთი კითხვებისთვისაა Decisions API და მსგავსი მოდელები გაკეთებული: პასუხი იაფი და სწრაფია, მისი პირდაპირ განაცხადის ველში ჩადება შეიძლება. მაგრამ შემდეგი გადაწყვეტილება, ჩამოაჭრას თუ არა კლიენტის დეპოზიტიდან, ფულიც ღირს და ურთიერთობაც. მას თანამშრომელი ადასტურებს. მოდელი განაცხადს ამზადებს, ადამიანი ღილაკს აჭერს.

აქედან დასკვნა: გაყავით გადაწყვეტილებები შეცდომის ფასის მიხედვით. კლასიფიკაცია და მარშრუტიზაცია ავტომატურად მიდის დარწმუნებულობის ზღვრით. ყველაფერი, რაც ფულს, ხელშეკრულებას ან კლიენტის ჩანაწერს ცვლის, დადასტურებით გადის.

როგორ მაქვს ეს მე

აშშ-ის PDR კომპანიის დოკუმენტების პარსერებში ამას პრაქტიკაში მივედი. ისინი სადაზღვევო ხარჯთაღრიცხვებს, აქტებსა და VIN-იან ფოტოებს კითხულობენ. მათი კეთება 2023 წელს დავიწყე და 2023-ის შუიდან მუშაობენ: მაშინ დოკუმენტების დაახლოებით ნახევარი ხელით შესწორების გარეშე გადიოდა. 2024 წელს ამოცნობის ახალ ხერხებზე გადავედი და შესწორების გარეშე დაახლოებით 75 % გადიოდა. 2025-ში ახალი მონაცემები და გათვლები დავამატე, წილი დაახლოებით 95 %-მდე გაიზარდა. 2026 წელს AI-ვალიდატორები მივაერთე და სარელიზო ვერსია გამოვუშვი: დოკუმენტების დაახლოებით 99,9 % ხელით შესწორების გარეშე გადის.

ვალიდატორი სამია, Anthropic-ის, OpenAI-სა და Gemini-ს სერვისებზე, თითოეული თავის ამოცანაზე. როგორ არის შემოწმება შიგნით მოწყობილი, არ ვამხელ. პრინციპი იგივეა, რასაც n8n აღწერს: რამდენიმე დამოუკიდებელი შემოწმება ერთი შეფასების ნაცვლად, ბოლო სიტყვა კი თანამშრომელს ეკუთვნის, რომელიც შედეგს ხედავს და ადასტურებს. პარსერები კვირაში დაახლოებით 60 საათ ხელით შრომას ათავისუფლებს. Decisions API ჩემთან არ მიცდია; შემომავალი დოკუმენტების მარშრუტიზაციაზე შევამოწმებდი, სადაც ძირითად ანალიზამდე პასუხი „რა არის ეს და სად მიდის“ გჭირდება.

რას გავაკეთებდი

ამოვწერდი პროცესის ყველა წვრილ გადაწყვეტილებას: დოკუმენტის ტიპი, სასწრაფოობა, ვის გადაეცეს. თითოეულისთვის დასაშვებ პასუხებს განვსაზღვრავდი. თუ პასუხები არ ჩამოითვლება, ეს გადაწყვეტილებების მოდელის ამოცანა არ არის.

თითოეული გადაწყვეტილებისთვის შეცდომის ფასს დავასახელებდი. იაფი შეცდომები ავტომატურად მიდის, ძვირი კი დადასტურებით. დარწმუნებულობის ზღვარს ამ ფასით დავაყენებდი და არა საშუალო ხარისხით, და ყოველ გადაწყვეტილებას შემავალ მონაცემებთან და დარწმუნებულობასთან ერთად ჟურნალში ჩავწერდი. ერთ თვეში ჟურნალიდან ჩანს, სად ცდება მოდელი და საით გადასაწევია ზღვარი.

მდგომარეობას მოდელის გარეთ შევინახავდი: ბაზაში, განაცხადის ნომრითა და ნაბიჯების ისტორიით. მაშინ თანამშრომელი ხედავს, რა გადაწყვიტა მოდელმა და რატომ.

ერთი ტიპის გადაწყვეტილებით და ადამიანის შემოწმების ერთი რიგით დავიწყებდი. დანარჩენს მაშინ მივაერთებდი, როცა პირველი რიგი გაკვირვებას შეწყვეტს.

დაკავშირებული მასალები

მოდელის შედეგის შემოწმებაზე: სტატია AI მონაცემთა დამუშავებაში: ამოღება და შემოწმება და გვერდი AI პროცესში, სადაც შედეგი შემოწმებადია. ქეისი პარსერებზე: აშშ-ის PDR კომპანია კვირაში დაახლოებით 60 საათს ზოგავს. იმავე თემაზე მიმოხილვებიდან: მონაცემების ამოღება დოკუმენტებიდან 2026 წელს, რა დაიმახსოვრა AI-მ კლიენტზე და მოდელი თქვენი ბაზის თავზე. ადრე ვწერდი AI-აგენტების საიმედოობასა და პროცესის კონტროლზე და იმაზე, როგორ შევამოწმოთ AI-აგენტი. თუ თქვენს პროცესში არის გადაწყვეტილებები, რომლებსაც თანამშრომელი შაბლონით იღებს, მომიყევით, რომელი. ამოცანის განხილვა.