სიახლეები და ანალიზი
კონფიდენციალური AI: მოთხოვნის დაცვა და მოქმედების უფლება სხვადასხვა საკითხია
Brave-ის, Twilio-ს, Docker-ისა და CNCF-ის ცნობების ანალიზი: რატომ სჭირდება დაცულ გამოთვლას ცალკე უფლებების დელეგირება და შესრულების კონტროლი.
კონფიდენციალური გამოთვლა კორპორაციული AI-ის ამოცანის ნაწილს წყვეტს. მაშინაც, როდესაც ინფრასტრუქტურის ოპერატორი მოთხოვნას ვერ კითხულობს, აგენტმა უნდა განსაზღვროს მომხმარებელი, შეარჩიოს ნებადართული დოკუმენტები და მიიღოს მოქმედების უფლება. ოთხი ოქტომბრის მასალა ამ პასუხისმგებლობების გამიჯვნაში გვეხმარება.
Brave-ის 15 ოქტომბრის განცხადება Leo-ში GLM-ის კონკრეტული მარშრუტისთვის მოწყობილობაზე დაშიფვრას, გარემოს ატესტაციასა და TEE-ში გამოთვლას აღწერს. ეს დაპირება ბრაუზერის ყველა მოდელს არ ეხება. Twilio იმავე დღეს აგენტის იდენტობას მფლობელსა და შეზღუდულ უფლებამოსილებას უკავშირებს. Docker-ის 14 ოქტომბრის ანალიზი ავტონომიური შესრულების რისკებს განიხილავს. CNCF-ის 8 ოქტომბრის ავტორული სტატია სისტემის შემოწმებადი შემდეგი მდგომარეობის შეთავაზებას ემხრობა. ეს სავალდებულო სტანდარტი არ არის.
ოთხ საზღვარს სხვადასხვა შემოწმება სჭირდება
ტრანსპორტის დაშიფვრა გზაში ჩაჭერას ზღუდავს. კონფიდენციალური გამოთვლა პროვაიდერის შიგნით დამატებით საზღვარს ქმნის. დელეგირება განსაზღვრავს, ვისი სახელით სრულდება მოქმედება. შესრულების ფენა ამოწმებს, დაშვებულია თუ არა კონკრეტული ცვლილება ახლა. ერთი წარმატებული შემოწმება დანარჩენს ვერ ცვლის.
თანამშრომელს შეიძლება ხელშეკრულების ახსნა სურდეს. მოთხოვნის დაცვამდე აპლიკაციამ უნდა დაადასტუროს, რომ მას ამ დოკუმენტის წაკითხვის უფლება აქვს. ვადის შეცვლის შემდგომი თხოვნა უკვე სხვა ოპერაციაა. კითხვის უფლება კომპანიის ვალდებულების შეცვლის უფლებას არ იძლევა.
ამიტომ მონაცემებს მოდელამდე აპლიკაცია არჩევს, ინსტრუმენტი შეზღუდულ პარამეტრებს იღებს, ხოლო პოლიტიკა შესრულებამდე კვლავ მოწმდება. მოდელს შეუძლია გამოსავლის შეთავაზება, მაგრამ წვდომის წესების ერთადერთი დამცველი ვერ იქნება. ასეთი საზღვრები კონკრეტული სცენარებით მოწმდება, ზოგადი უსაფრთხო ქცევის ინსტრუქციის იმედად დარჩენის ნაცვლად.
პლატფორმის შეფასებისას მტკიცებულების ფარგლები მნიშვნელოვანია. ის, რომ პროვაიდერი მოთხოვნას ვერ კითხულობს, გარე ინსტრუმენტის სწორ უფლებებს არ ამტკიცებს. მომხმარებლის შესვლა კი არ ადასტურებს, რომ მომზადებული ცვლილება დოკუმენტის მიმდინარე ვერსიას შეესაბამება. თითოეულ შემოწმებას პასუხისმგებელი კომპონენტი სჭირდება.
ატესტაცია პასუხის სისწორეს არ ამტკიცებს
ატესტაცია ნდობას კონკრეტულ გარემოსა და გაშვებულ კოდს უკავშირებს აღწერილი სქემის ფარგლებში. ის ვერ ამოწმებს დასკვნის სისწორეს და მავნე ინსტრუქციას უსაფრთხოდ ვერ აქცევს. იზოლირებულმა აგენტმაც შეიძლება დოკუმენტი მცდარად გაიგოს. შეცდომა კონფიდენციალური დარჩება, მაგრამ შესრულების შემთხვევაში ზიანი მაინც შესაძლებელი იქნება.
ლოგირებაც იმავე წესებს უნდა ემორჩილებოდეს. მოთხოვნის წაკითხვადი ასლის არშენახვის დაპირება დეტალური ინსტრუმენტული ჟურნალით არ უნდა გაუქმდეს. გამოძიებას ხშირად სჭირდება გაშვების იდენტიფიკატორი, პოლიტიკის ვერსია, ოპერაცია, უფლებების შედეგი და შეცდომის კოდი. დოკუმენტის შიგთავსის შენახვა ცალკე საჭიროების, წვდომისა და ვადის გადაწყვეტილებაა.
მომხმარებლის მოწყობილობა და საბოლოო მიმღებიც ამ გზის ნაწილებია. ჩვეულებრივ ელფოსტაში გაგზავნილი პასუხის დაცვას გამოთვლის კონფიდენციალურობა სრულად ვერ აღწერს. უნდა ვიცოდეთ სრული მარშრუტი, სარეზერვო პროვაიდერები და უარის ქცევა. გათიშვამ მგრძნობიარე მონაცემები სხვა პირობებში ჩუმად არ უნდა გადაიტანოს.
პირობითი მაგალითი: ხელშეკრულებების ასისტენტი
ეს საპროექტო მაგალითია. ასისტენტი ერთი განყოფილების ხელშეკრულებებს კითხულობს, განმარტავს და ცვლილების პროექტს ამზადებს. წვდომა თანამშრომელს უკავშირდება, მოდელს მხოლოდ საჭირო ფრაგმენტები მიეწოდება. ცვლილება ზუსტი ველებითა და საფუძვლით მონახაზად ინახება. შემსრულებელი სერვისი უფლებებსა და ჩანაწერის ვერსიას ხელახლა ამოწმებს.
თუ თანამშრომლის თანხმობის დროს ხელშეკრულება შეიცვალა, ძველი თანხმობა ახალ რედაქციაზე ავტომატურად არ ვრცელდება. საჭიროა განსხვავების ჩვენება და ახალი გადაწყვეტილება. თუ უფლებამოსილების ვადა ამოიწურა, აგენტი გასაგები სტატუსით ჩერდება. საერთო ადმინისტრაციული გასაღებით გაგრძელება თავდაპირველ შეთანხმებას შეცვლიდა.
ეს საქაღალდეზე ჩატის მიერთებაზე მეტი სამუშაოა, თუმცა შედეგი შემოწმებადია. პილოტში უნდა გათამაშდეს გაუქმებული წვდომა, სხვისი დოკუმენტი ძებნაში, ვადაგასული თანხმობა და დაცული გამოთვლის მიუწვდომლობა. სწორი შედეგი განმეორებადი უარი ან შესაბამის ადამიანთან გადამისამართებაა.
ბიზნესწესების, სტატუსებისა და უფლებების სტატია ამ საზღვარს ხსნის. საკუთარი API-ის ქეისი დაკავშირებული აპლიკაციების კონტექსტს იძლევა. შეგვიძლია ასისტენტის წვდომის საზღვრები განვიხილოთ, დავიწყოთ დასაცავი ოპერაციებითა და მონაცემებით.