RedHack - როგორ შექმნა თიბისიმ საქართველოს პირველი AI Red Team ჰაკათონი

5 დღე, 100 მონაწილე, 42 გუნდი და ერთი იდეა: ერთობლივად განვავითაროთ პროდუქტი, რომელიც კიდევ უფრო გაამარტივებს თიბისის მომხმარებლის ცხოვრებას.

26-30 სექტემბერს თიბისიში RedHack - საქართველოს პირველი AI Red Team ჰაკათონი გაიმართა, რომელიც თიბისი IT აკადემიისა და Data & AI გუნდის მიერ იყო ორგანიზებული. ხუთი დღის განმავლობაში, თიბისის Agile სტრუქტურაში ჩართულმა 40-ზე მეტმა გუნდმა და 100-მდე თანამშრომელმა თავი მოიყარა ეთიკური ,,შეტევების’’ მეშვეობით თიბისის პირველი გენერაციული ჩატბოტის გაუმჯობესების მიზნით.

რატომ RedHack?

თიბისისთვის ხელოვნური ინტელექტი უბრალოდ ტექნოლოგიური ტენდენცია არ არის. AI უკვე ჩვენი სტრატეგიის ცენტრალურ ნაწილად იქცა. რაც უფრო ინტენსიურად ინტეგრირდება AI ჩვენს პროდუქტებსა და პროცესებში, მით უფრო იზრდება პასუხისმგებლობა, რომ ეს სისტემები იყოს სანდო, ეთიკური და უსაფრთხო.

RedHack სწორედ ამ იდეიდან დაიბადა - შევქმენით სივრცე, სადაც თიბისელები თავად გახდნენ ბოტის ეთიკური შემტევები და და მონაწილეობა მიიღეს ბოტის განვითარებაში. მათი ამოცანა იყო მარტივი, მაგრამ ამბიციური: პირველი ქართული საბანკო გენერაციული AI ჩატბოტის სისუსტეების აღმოჩენა და მისი გაძლიერება.

როდესაც მომხმარებელი ხდება შემტევი

ხუთი დღის განმავლობაში, თიბისელებმა საკუთარ თავზე ახალი როლი მოირგეს - ისინი გახდნენ ეთიკური ჰაკერები და პრომპტ-ინჟინრები. სცადეს სხვადასხვა ფორმის შეტევა: Prompt Injection, Bias და Fairness სცენარები, Hallucination ტესტები თუ სხვა და ყოველი აღმოჩენა იქცა ახალ გაკვეთილად, როგორც მოდელისთვის, ისე ჩვენთვის, როგორც ორგანიზაციისთვის.

ყოველ საღამოს თიბისის AI გუნდი ამუშავებდა მიღებულ შედეგებს, აახლებდა ლიდერბორდსა და აძლიერებდა სისტემის უსაფრთხოების მექანიზმებს. თამაში სწრაფად იქცა ერთობლივ კვლევად, იმ მაგალითად, თუ როგორ ქმნის თიბისელების გუნდური ინტელექტი უფრო უსაფრთხო და გამჭვირვალე ტექნოლოგიას.

იდეიდან განხორციელებამდე - გლობალური პრაქტიკების ინსპირაციით

RedHack შემთხვევითი ექსპერიმენტი არ ყოფილა. ჰაკათონის ფორმატი და მიდგომა დაფუძნდა იმ სტრუქტურაზე, რომელსაც იყენებენ ისეთი კომპანიები, როგორებიცაა OpenAI, Anthropic და Microsoft თავიანთ AI Red Team პროგრამებში, თუმცა, ჩვენ ის თიბისის კულტურასა და გუნდურ გარემოს მოვარგეთ.

შედეგი - გუნდურობითა და მომხმარებელზე ორიენტირებულობით დაბადებული ინოვაცია

ხუთი დღის, ასობით სცენარისა და პრომპტის შემდეგ, ლიდერბორდზე გამოიკვეთა ორი გამორჩეული გუნდი:

I ადგილი – Big N’Tasty (პრიზი: 5,000 ლარი)

II ადგილი – Bug Busters (პრიზი: 3,000 ლარი)

მათი აღმოჩენები დაეხმარა ბოტის გუნდს, გაეზარდა სისტემის გამძლეობა და დაეხვეწა ალგორითმები ისე, რომ მომავალში კიდევ უფრო დაცული და სანდო იყოს.

შემდეგი ეტაპი - პასუხისმგებლიანი AI-ის კულტურისკენ

ჰაკათონის მთავარი მიღწევა მხოლოდ ტექნიკური არ ყოფილა, ის გახდა კულტურული ცვლილების სიმბოლო, სადაც ინოვაცია და პასუხისმგებლობა ერთმანეთს შეხვდა. თიბისელებმა საკუთარი თვალით იხილეს, რომ AI უსაფრთხოება არ არის მხოლოდ დეველოპერების ამოცანა, ეს არის საერთო მიზანი, რომელშიც ყველას შეუძლია წვლილი შეიტანოს.

RedHack იყო არა უბრალოდ ჰაკათონი, არამედ გზავნილი: თიბისი არ არის მხოლოდ ორგანიზაცია, რომელიც იყენებს AI-ს, არამედ, თიბისი ქმნის სტანდარტებს, თუ როგორ უნდა განვითარდეს ხელოვნური ინტელექტის პროდუქტები და მოხდეს მათი პასუხისმგებლიანი და უსაფრთხო გამოყენება.