რა დაიმახსოვრა AI-მ კლიენტზე: ექსპორტი Vault-იდან, სუბიექტის მოთხოვნა და სხვისი ვექტორები

Google-მა Vault-ს ასწავლა თანამშრომლების Gemini-სთან მიმოწერის გადმოტვირთვა. CustomerThink-მა შეგვახსენა, რომ მოთხოვნა „მომეცით ყველაფერი, რასაც ჩემზე ინახავთ“ საერთო ყუთში გაფრთხილების გარეშე მოდის. Directum-ის მეთოდოლოგმა გაარჩია, რისი მიცემა შეუძლია HR-სპეციალისტს მოდელისთვის, Weaviate-მა კი დახურა ხვრელი, რომლითაც სხვისი ვექტორის აღდგენა შეიძლებოდა. ოთხი სიახლე ერთსა და იმავეზეა: ყველაფერი, რაც მოდელმა კლიენტზე ან თანამშრომელზე წაიკითხა, სადღაც დევს, და ერთ დღეს მის ჩვენებას ან წაშლას მოითხოვენ. ბიზნესის მფლობელმა უნდა იცოდეს, ზუსტად სად.

რა გამოვიდა

Google Workspace-მა 22 ოქტომბერს გამოაცხადა, რომ Google Vault Workspace-ში Gemini-სთან საუბრების ფილტრირებულ ექსპორტს უჭერს მხარს. ადმინისტრატორი ირჩევს მომხმარებლებს ან განყოფილებებს, 5000 ანგარიშამდე, უთითებს პერიოდს და იღებს JSON-ს: მომხმარებლის მოთხოვნებს, მოდელის პასუხებს, შექმნილ დანართებს და ბმულებს Drive-ის ფაილებსა და Gmail-ის წერილებზე, რომლებსაც მოდელი მიმართავდა. ამ მონაცემებისთვის შენახვის წესებსა და იურიდიულ ბლოკირებებს Google შემდეგ გამოშვებებში გვპირდება. ადმინისტრატორის კონსოლში კი უკვე შეიძლება მომხმარებლებს ისტორიის ხელით წაშლა აუკრძალოთ ან უმოქმედობის პერიოდის შემდეგ ავტომატური წაშლა ჩართოთ. API ინტერფეისის გამოსვლიდან 14 დღის განმავლობაში გამოჩნდება.

CustomerThink-მა 20 ოქტომბერს მარტივი ექსპერიმენტით დაიწყო. მონაცემთა სუბიექტის მოთხოვნა სამშაბათს, სადილის შემდეგ, მხარდაჭერის სამსახურის საერთო ყუთში შემოდის, და მასში ყველა პერსონალური მონაცემის მიწოდებას ითხოვენ. ვინ ამუშავებს მას, იურისტები თუ IT, თავად უპასუხონ თუ არა და რამდენი დღე აქვთ ამისთვის. ჩემთან მხოლოდ სტატიის ანონსია, ამიტომ კითხვის დასმას ვყვები და არა ავტორის დასკვნებს.

Habr-ზე 15 ოქტომბერს Directum-ის მეთოდოლოგ-ანალიტიკოსმა Ruslan Nuriev-მა იმავეზე HR-ის მხრიდან დაწერა. HR-ს მოდელების გამოყენება უნდა გრაფიკებისთვის, დოკუმენტების გარჩევისა და არასტანდარტულ მოთხოვნებზე პასუხებისთვის. მაგრამ HR-სპეციალისტის მონაცემების დიდი ნაწილი პერსონალურია, და დარღვევებზე ჯარიმები, მისი თქმით, 2025 წელს რამდენჯერმე გაიზარდა. ამ სტატიიდანაც მხოლოდ შესავალი მაქვს.

Weaviate-მა 15 ოქტომბერს გამოუშვა ვერსია 1.39.3, რომელიც nearObject ოპერატორში საშუალო სიმძიმის მოწყვლადობას ასწორებს. ძიება ობიექტის ვექტორს ერთი კოლექციიდან იღებდა და მსგავსს მეორეში ეძებდა, უფლებებს კი მხოლოდ იმ კოლექციაზე ამოწმებდა, სადაც ეძებდა. თავად ობიექტი პასუხში არ ხვდებოდა, სამაგიეროდ ხვდებოდა მანძილები მასამდე, მანძილებით კი ვექტორი აღდგება: მკვლევარმა ნორმალიზებული ოთხგანზომილებიანი ვექტორი 5e-9 სიზუსტით რვა საცდელი ობიექტით აღადგინა. შეტევისთვის საჭიროა კოლექციის სახელი და ობიექტის UUID, კოლექციების განსაზღვრებების წაკითხვის უფლება და რომელიმე საკუთარ კოლექციაში მონაცემების შექმნის უფლება. Weaviate-ს მოწყვლადობის გამოყენების ნიშნები არ უნახავს. ეს ეხება მათ, ვინც ერთ კლასტერს გუნდებს შორის RBAC-ით ინაწილებს.

მაგალითი: მანქანების გაქირავება და „რას ინახავთ ჩემზე“

ავიღოთ გაქირავება. კლიენტზე კომპანიას აქვს ჯავშანი, მართვის მოწმობის სკანი, მანქანის ფოტო გაცემისას, გადახდის სკრინშოტი და ხელმოწერილი ხელშეკრულება. ახლა დავამატოთ მოდელზე აგებული დამხმარე, რომელიც მენეჯერებს კითხვაზე „რა ხდება ამ კლიენტთან“ პასუხობს, და ვექტორული ბაზა, სადაც ძიებისთვის ხელშეკრულებები და მიმოწერა ჩაყარეს. მოდის მოთხოვნა: მოგვაწოდეთ ყველაფერი. ჯავშნისა და დოკუმენტების გადმოტვირთვა მარტივია. მენეჯერების კითხვების ისტორია მოდელთან ამ ადამიანზე და მისი მონაცემები საძიებო ინდექსის შიგნით ვიღაცას მოუწევს გაიხსენოს და იპოვოს.

მოდელიანი ყოველი ახალი ინსტრუმენტი კიდევ ერთ ადგილს ამატებს, სადაც ადამიანებზე მონაცემები დევს. თუ ეს ადგილი სიაში ჩაწერილი არ არის, მონაცემთა სუბიექტის მოთხოვნა გამოძიებად იქცევა.

როგორ მაქვს ეს მოწყობილი

სხვისი პერსონალური მონაცემების ყველაზე მჭიდრო ნაკადი ჩემთან აშშ-ში PDR სფეროს კომპანიისთვის გაკეთებულ პარსერებზე გადის. 2023 წლიდან ისინი კითხულობენ სადაზღვევო ხარჯთაღრიცხვებს, აქტებს და VIN-იან ფოტოებს; სადაზღვევო დოკუმენტი 60-70 გვერდამდე აღწევს. 2026 წელს AI-ვალიდატორები შევაერთე და სარელიზო ვერსია გამოვუშვი: დოკუმენტების დაახლოებით 99,9% ხელით შესწორების გარეშე გადის, საბოლოო შემოწმებას კი ადამიანი აკეთებს. შემოწმებისთვის სამ სხვადასხვა სერვისს ვიყენებ, Anthropic-ს, OpenAI-ს და Gemini-ს, თითოეულს თავისი ამოცანისთვის. როგორ არის შემოწმება შიგნიდან მოწყობილი, არ ვამხელ.

სად მიდის მონაცემები გარჩევის შემდეგ, ყოველ დოკუმენტზე ვიცი: კომპანიის სუპერაპი, CRM, ხარჯთაღრიცხვები, ნაწილობრივ leaderboard და TV-ეკრანები. ამ რუკიდან იწყება ნებისმიერი მოთხოვნა „გვაჩვენეთ“ ან „წაშალეთ“. მონაცემთა სუბიექტის მოთხოვნით წაშლის ცალკე სცენარი ჩემთან არ შემიმოწმებია. თუ ასეთი მოთხოვნა მოვა, რუკით დავიწყებ და არა სერვერზე ძიებით.

რას გავაკეთებდი

შევადგენდი იმ ადგილების სიას, სადაც ადამიანებზე მონაცემები დევს, მოდელებთან საუბრების ისტორიისა და ვექტორული ინდექსების ჩათვლით. Workspace-ისთვის ახლა Vault-იდან ექსპორტი არსებობს, საკუთარი სისტემებისთვის სია თავად უნდა აწარმოოთ.

წინასწარ გადავწყვეტდი, რა მიდის მოდელის გარე სერვისში და რა რჩება სერვერზე. ხარჯთაღრიცხვის შესამოწმებლად ვალიდატორს პოზიციები და თანხები სჭირდება, მანქანის მფლობელის სახელი და მისამართი კი არაფერში სჭირდება. ასეთი რამ გაგზავნამდე წყდება.

მოდელთან ისტორიისთვის იგივე შენახვის წესებს ჩავრთავდი, რაც ფოსტისთვის: ვადა, ავტომატური წაშლა, ხელით წაშლის აკრძალვა, თუ ამას ბიზნესი მოითხოვს.

ვექტორულ ბაზაში უფლებებს შევამოწმებდი, როგორც Weaviate გვირჩევს: ვის შეუძლია კოლექციების განსაზღვრებების წაკითხვა და ვის შეუძლია მონაცემების შექმნა სადმე მაინც. თუ Weaviate გაქვთ, 1.39.3-მდე განაახლეთ.

დავნიშნავდი ერთ ადამიანს, რომელიც საერთო ყუთიდან მონაცემთა სუბიექტის მოთხოვნას იღებს და იცის, ვის გადასცეს.

დაკავშირებული მასალები

სად ეხმარება მოდელი დოკუმენტების გარჩევაში და როგორ შევამოწმოთ შედეგი, სტატიაში AI მონაცემთა დამუშავებაში: ამოღება და შემოწმება გავარჩიე, მიდგომა კი აღწერილია გვერდზე AI პროცესში, სადაც შედეგის შემოწმება შეიძლება. თავად პარსერები: აშშ-ის PDR კომპანია კვირაში დაახლოებით 60 საათს ზოგავს. იმავე თემაზე: Decisions API-სა და აგენტის მეხსიერებაზე და მონაცემების ამოღება დოკუმენტებიდან 2026 წელს, ადრე კი ვწერდი მონაცემების დაფარვაზე შეტყობინებებსა და ლოგებში და იმაზე, რაც AI-მ კლიენტზე უკვე დაიმახსოვრა. თუ მოდელები უკვე კითხულობენ კლიენტების დოკუმენტებს და დარწმუნებული არ ხართ, სად დევს ეს ყველაფერი, მომიყევით, რომელი დოკუმენტები და რომელი სისტემები გაქვთ. ამოცანის განხილვა.