სიახლეები და ანალიზი
Granite Speech 5.0 და Meet-ის თარგმანი 63 ენაზე: მეტყველების გაშიფვრა საკუთარ სერვერზე გადადის
Granite Speech 5.0, თარგმანი Google Meet-ში 63 ენაზე, HubSpot-ის მიმოხილვა და VocabX: როდის შეინახოთ ზარების გაშიფვრა საკუთარ სერვერზე და როდის აიღოთ სერვისი.
IBM-მა Apache 2.0 ლიცენზიით გამოაქვეყნა სამი მეტყველების მოდელი, რომლებიც მეტყველებას თქვენსავე აპარატურაზე შიფრავენ და თარგმნიან, Google-მა კი Meet-ში 63 ენას შორის თარგმანი ჩართო. ბიზნესის მფლობელისთვის ეს ნიშნავს: ზარებისა და შეხვედრების გაშიფვრა აღარ არის ცალკე ფასიანი მომსახურება. მისი შენახვა საკუთარ სერვერზე შეიძლება, წუთობრივი გადასახადის გარეშე და კლიენტებთან საუბრების გარეთ გაცემის გარეშე.
რა გამოვიდა ამ კვირაში
Hugging Face-ის ბლოგში 21 ოქტომბერს IBM Granite-ის გუნდმა სამი განახლება აღწერა. ახალი granite-speech-5.0-2b შიფრავს ინგლისურს, ფრანგულს, გერმანულს, ესპანურს, პორტუგალიურს და იაპონურს და თარგმნის მათსა და ინგლისურს შორის. მას შეიძლება 2 000-მდე ტერმინის სია გადასცეთ, რომ პროდუქტების სახელები და გვარები არ დაამახინჯოს. ინგლისურ ბენჩმარკებზე საშუალო WER-ით ის მეორეა ღია მოდელებს შორის, 5,06 %. პატარა granite-speech-5.0-470m-turboctc მრავალენოვანი გახდა, სასვენ ნიშნებს თავად სვამს და დაახლოებით 1,6-ჯერ დაჩქარდა, 19 870 RTFx-მდე. granite-speech-4.1-2b-plus კი რამდენიმე მოსაუბრის ჩანაწერებისთვის გააუმჯობესეს: შეცდომა გრძელ ჩანაწერებზე 24 %-ით შემცირდა. სამივე ეშვება Transformers-ში, vLLM-სა და llama.cpp-ში, Mac-ზე mlx-audio-ს მეშვეობით. რუსული ენების სიაში არ არის და ჩემთვის ეს რელიზის მთავარი მინუსია.
Google-მა 22 ოქტომბერს Workspace-ის განახლებების ბლოგში განაცხადა, რომ Meet-ში მეტყველების თარგმანი ერთ შეხვედრაში 63 ენიდან ნებისმიერს შორის მუშაობს. ენა თავისით დგინდება, თარგმანს თითოეული მონაწილე თავისთვის რთავს. ლიმიტები შესამჩნევია: 90 წუთი შეხვედრაზე Workspace-ისა და Google AI Pro-ს საბაზისო გეგმებისთვის, 8 საათი AI Expanded Access-ისა და Ultra-სთვის. შეხვედრების ჩანაწერებში, სატელეფონო ზარებსა და კლიენტის მხარეს დაშიფრულ შეხვედრებში თარგმანი არ არის. Google წერს, რომ ხმას არ ინახავს და მასზე არ სწავლობს. გავრცელება 22 ოქტომბერს დაიწყო.
HubSpot-მა 14 ოქტომბერს გაყიდვების ბლოგში გაშიფვრის სერვისების მიმოხილვა გამოაქვეყნა. აზრი იქ ერთია, მაგრამ სწორი: გაშიფვრა იმისთვის გჭირდებათ, რაც მის შემდეგ მოდის. მოკლე შინაარსი, დავალებები, ვინ რა თქვა, ჩანაწერი CRM-ის ბარათში. ავტორი წერს, რომ სიზუსტეზე G2-ისა და Capterra-ს შეფასებებს ეყრდნობოდა, და ყიდვამდე სერვისში საკუთარი რეალური ზარის გატარებას გვირჩევს. ამ რჩევას ვეთანხმები.
და ერთი ტექნიკური შენიშვნა იმაზე, რატომ იაფდება საკუთარი მოდელი დროთა განმავლობაში. Dharma-AI-ს გუნდმა 21 ოქტომბერს Hugging Face-ის ბლოგში მოყვა, როგორ გადააწყო ტოკენიზატორის ლექსიკონი Qwen3-4B მოდელში, რომელიც მათთან პორტუგალიურ თხზულებებს ამოწმებს. 151 669 ჩანაწერიანი ლექსიკონი ყველა ენაზე იყო გათვლილი, მოდელი კი ერთზე წერდა. გადაწყობის შემდეგ გამომავალი ფენა დაახლოებით 152 000-დან 65 000 სტრიქონამდე შემცირდა, ინფერენსის გაზომილი ღირებულება კი 77 %-ით დაეცა. სტატია ჯერ რეცენზირებაზეა, ციფრები შეიძლება შეიცვალოს. მაგრამ როცა მოდელი თქვენთან დგას, ასეთი ბერკეტები თქვენი ხდება.
რატომ სჭირდება ეს ბიზნესის მფლობელს
ავიღოთ ავტომობილების გაქირავება. მენეჯერი დღეში ათეულობით ზარს იღებს: ქირის გაგრძელება, ნაკაწრის შეტყობინება, კითხვა დაზღვევაზე. ერთი კვირის მერე კლიენტი ამბობს, რომ ფასდაკლება შეპირდნენ, მენეჯერს კი ეს არ ახსოვს. თუ ზარი ჩაწერილი და გაშიფრულია, დავა ერთ წუთში წყდება: გახსენით ტექსტი, იპოვეთ ფრაზა. ასეთი ნაკადისას სერვისისთვის ყოველ წუთში გადახდა ძვირია, კლიენტებთან საუბრების გარე სერვისისთვის გადაცემა კი ბევრს არ უნდა. მოდელი საკუთარ სერვერზე ორივე კითხვას ხსნის.
შეხვედრებთანაც ასეა. სხვა ქვეყნის მომწოდებელთან მოლაპარაკება Meet-ში ახლა თარჯიმნის გარეშე შეიძლება. მაგრამ ჩანაწერში თარგმანი არ იქნება და შეხვედრის ოქმი ცალკე მოგიწევთ.
როგორ მაქვს ეს მე
2023 წლის ბოლოს და 2024-ის დასაწყისში ლონდონის საკონსულტაციო კომპანიისთვის სუბტიტრების სისტემა გავაკეთე ლოკალურ Whisper მოდელზე. ის Google Drive-ის საქაღალდიდან ვიდეოებს, პოდკასტებისა და YouTube-ის ბმულებს იღებდა, ხმას ამოიღებდა, მეტყველებას ცნობდა და დროის ნიშნულებით SRT ფაილს გასცემდა. ჩანაწერის წუთში გადახდა არ სჭირდებოდა: სერვერი ფული ღირდა, მაგრამ მოცულობის ცალკე გადასახადი არ იყო. სუბტიტრების ვიდეოზე დადება გეგმაში იყო, მაგრამ დამკვეთმა პროექტი შეაჩერა.
აშშ-ის PDR კომპანიაში, სადაც 2021 წლიდან სერვერსა და ტელეფონიას ვუძღვები, სისტემა ყველა ზარს იწერს, AI კი არკვევს, ვინ დარეკა: ლიდი, მოქმედი კლიენტი თუ სადაზღვევო, და როგორ უპასუხა თანამშრომელმა. ჩვენ ყოველთვის ვიცით, ვინ, როდის და რატომ დარეკა. როგორ არის ანალიზი შიგნით მოწყობილი, არ ვამხელ. Granite-ის მოდელები ჩემთან არ შემიმოწმებია, მაგრამ სწორედ ასეთ ჩანაწერებზე შევამოწმებდი: სატელეფონო ხმა, ხმაური, ორი ხმა.
რას გავაკეთებდი
შევაგროვებდი 20-30 რეალურ ჩანაწერს: ხმაურით, აქცენტით, ერთდროულად ორი მოსაუბრით. ნებისმიერ მოდელს ან სერვისს მათზე გავატარებდი, სანამ გადავიხდიდი.
ამოცნობას ანალიზისგან გამოვყოფდი. ჯერ მეტყველება ტექსტად იქცევა, მერე ცალკე მოდელი პასუხობს კითხვებს: ვინ დარეკა, რა შეპირდნენ, უნდა თუ არა გადარეკვა. მაშინ ამოცნობის მოდელის შეცვლა შეიძლება დანარჩენის ხელუხლებლად.
წინასწარ გადავწყვეტდი, სად ინახება ჩანაწერები და გაშიფვრები და ვინ ხედავს მათ. კლიენტთან საუბრის ტექსტი მისი პერსონალური მონაცემია და მას იგივე წვდომის უფლებები სჭირდება, რაც CRM-ის ბარათს.
წლის ფულს დავთვლიდი. დღეში ათი ზარისას წუთობრივი გადახდის სერვისი საკუთარ სერვერზე იაფია, ასობით ზარისა და შეხვედრების მუდმივი ნაკადისას საკუთარი მოდელი თავს იმართლებს. ზუსტ ზღვარს მოცულობის დათვლის შემდეგ დავასახელებდი.
დაკავშირებული მასალები
როგორ ვამოწმებ მოდელების შედეგს, აღწერილია სტატიაში AI მონაცემთა დამუშავებაში: ამოღება და შემოწმება. მიდგომა: AI პროცესში, სადაც შედეგი შემოწმებადია და Python დოკუმენტებისთვის, მონაცემებისა და განმეორებადი დამუშავებისთვის. ქეისები: SRT სუბტიტრები ვიდეოდან ლოკალურ Whisper-ზე და აშშ-ის PDR კომპანიის ტექნიკური პარტნიორი. იმავე თემაზე მიმოხილვებიდან: ვინ დარეკა და რატომ: ზარების AI-ანალიზი, რატომ ვაშენებ უფასო ინსტრუმენტებზე და როგორ ვირჩევ საკუთარ მოდელსა და API-ს შორის. ადრე ვწერდი, რომ გაშიფვრის ინსტრუმენტი და მოდელი ცალ-ცალკე მოწმდება. თუ ზარების ან შეხვედრების ჩანაწერები გიგროვდებათ, მომიყევით, რა უნდა ამოიღოთ მათგან. ამოცანის განხილვა.