ლორდთა კომიტეტი მოუწოდებს სიფრთხილეს გაერთიანებული სამეფოს ავტონომიური იარაღის გამოყენებასთან დაკავშირებით

ლორდთა კომიტეტი მოუწოდებს სიფრთხილეს გაერთიანებული სამეფოს ავტონომიური იარაღის გამოყენებასთან დაკავშირებით

[ad_1]

გაერთიანებული სამეფოს მთავრობამ „სიფრთხილით უნდა გააგრძელოს“ სამხედრო მიზნებისთვის ხელოვნური ინტელექტის (AI) შემუშავებისა და გამოყენებისას, განსაკუთრებით ავტონომიური იარაღის სისტემების (AWS), განაცხადა ლორდთა პალატის კომიტეტმა.

AWS, ასევე ცნობილი როგორც სასიკვდილო ავტონომიური იარაღის სისტემები (LAWS), არის იარაღის სისტემები, რომლებსაც შეუძლიათ სამიზნეების შერჩევა, აღმოჩენა და ჩართვა ადამიანის მცირე ჩარევით.

2023 წლის 31 იანვარს დაარსებულმა ლორდის ხელოვნური ინტელექტის იარაღთა სისტემების კომიტეტმა შეისწავლა ასეთი იარაღის შემუშავებისა და განლაგების ეთიკა, მათ შორის, როგორ შეიძლება მათი უსაფრთხოდ და საიმედოდ გამოყენება, კონფლიქტის ესკალაციის პოტენციალი და საერთაშორისო კანონებთან შესაბამისობა.

1 დეკემბრის ანგარიშში, რომელიც დეტალურად აღწერს მის შედეგებს, კომიტეტმა თქვა, რომ მიუხედავად იმისა, რომ მთავრობა თავის 2022 წლის თავდაცვის სტრატეგიაში დაჰპირდა, რომ მიუახლოვდებოდა სამხედრო AI-ს „ამბიციური, უსაფრთხო და პასუხისმგებელი“ გზით, ეს მისწრაფებები არ შეესაბამებოდა რეალობას და უნდა ითარგმნოს. პრაქტიკაში.

”ავტონომიური იარაღის და ზოგადად ხელოვნური ინტელექტის შესახებ მსჯელობა გაურკვეველია დღის წესრიგის დაცვით და გაუგებრობით,” – ნათქვამია მან. „ჩვენი ერთ-ერთი მიზანია შევქმნათ ფაქტობრივი საფუძველი კონსტრუქციული დებატებისთვის და ხელისუფლების მხრიდან გულწრფელობა და გამჭვირვალობა ხელს შეუწყობს ამ პროცესს.

კომიტეტმა თქვა, რომ მთავარია მთავრობამ მოიძიოს, დაამყაროს და შეინარჩუნოს როგორც საზოგადოების ნდობა, ასევე დემოკრატიული მხარდაჭერა ზოგადად ხელოვნური ინტელექტის შემუშავებასა და გამოყენებაში, განსაკუთრებით AWS-თან მიმართებაში.

ამის მისაღწევად კომიტეტმა გასცა რამდენიმე რეკომენდაცია იმის შესახებ, თუ როგორ შეუძლია მთავრობამ გაზარდოს საზოგადოების გაგება და ნდობა სამხედრო ხელოვნური ინტელექტის აპლიკაციების მიმართ, ასევე გააძლიეროს პარლამენტის გადაწყვეტილების მიღების როლი ამ სფეროში.

ბირთვული აკრძალვა

მიუხედავად იმისა, რომ მოხსენების დიდი ნაწილი ფოკუსირებული იყო სამხედრო ხელოვნური ინტელექტის ზედამხედველობის გაუმჯობესებაზე, ის ასევე მოითხოვდა ტექნოლოგიის გამოყენების სპეციფიკურ აკრძალვას ბირთვულ ბრძანებაში, კონტროლსა და კომუნიკაციებში ჰაკერების, „მოწამლული“ სასწავლო მონაცემებისა და ესკალაციის რისკების გამო. იყოს განზრახ ან შემთხვევით – კრიზისის მომენტებში.

„ხელოვნური ინტელექტი გავრცელდა ცხოვრების ბევრ სფეროში და არც დაცვაა გამონაკლისი. როგორ შეეძლო მას თავდაცვის ტექნოლოგიების რევოლუცია მოახდინოს, დღეს ხელოვნური ინტელექტის ერთ-ერთი ყველაზე საკამათო გამოყენებაა“, – თქვა კომიტეტის თავმჯდომარემ ლორდ ლისვანემ და დასძინა, რომ მიუხედავად იმისა, რომ მთავრობის აღიარება პასუხისმგებელი ხელოვნური ინტელექტის საჭიროების შესახებ მის მომავალ თავდაცვით შესაძლებლობებში მისასალმებელია, არსებობს მთელი რიგი ნაბიჯები. უნდა მიიღოს სათანადო სიფრთხილის უზრუნველსაყოფად.

”მას უნდა შეიცავდეს ეთიკური და სამართლებრივი პრინციპები დიზაინის, განვითარებისა და განლაგების ყველა ეტაპზე, საზოგადოების გაგებისა და დემოკრატიული მოწონების მიღწევის დროს,” – განაგრძო მან. „ტექნოლოგია უნდა იქნას გამოყენებული, როცა ხელსაყრელია, მაგრამ არა გაერთიანებული სამეფოს მორალური პრინციპებისთვის მიუღებელ ფასად“.

კომიტეტის ძირითადი რეკომენდაციები მოიცავს მთავრობას, რომ უზრუნველყოს ადამიანის კონტროლი AWS-ის სასიცოცხლო ციკლის ყველა ეტაპზე; AWS-ის ოპერატიული, ტექნოლოგიურ-აგნოსტიკური განმარტების მიღება, რათა შესაძლებელი იყოს მნიშვნელოვანი პოლიტიკის გადაწყვეტილებების მიღება; და შესყიდვების პროცესების სათანადოდ შემუშავება AI-ზე ორიენტირებული სამყაროსთვის, რათა არსებობდეს სათანადო ანგარიშვალდებულება.

საზოგადოების ნდობისა და ინფორმირებულობის თვალსაზრისით, კომიტეტმა თქვა, რომ „იმედგაცრუებულია“ იმით, რომ თავდაცვის სამინისტრო ამჟამად არ მუშაობს AWS-ის მიმართ საზოგადოების დამოკიდებულების გასაგებად და დასძინა, რომ საზოგადოებას სათანადო კონსულტაცია უნდა გაუწიოს: „ის ასევე უნდა უზრუნველყოს ეთიკა. არიან მისი პოლიტიკის ცენტრში, მათ შორის თავდაცვის სამინისტროს AI ეთიკის მრჩეველთა კომიტეტის როლის გაფართოება“.

გაერთიანებული სამეფოს AWS შესაძლებლობების შესახებ შემოწმების გაუმჯობესების შესახებ, მან თქვა, რომ პარლამენტის ზედამხედველობის უნარი დამოკიდებულია ინფორმაციის ხელმისაწვდომობაზე, მის უნარზე, განჭვრიტოს საკითხები, ვიდრე რეაგირება მოახდინოს მოვლენის შემდეგ, და მინისტრების პასუხისმგებლობის მოთხოვნის შესაძლებლობაზე.

”მთავრობამ უნდა დაუშვას საკმარისი ადგილი საპარლამენტო განრიგში და მიაწოდოს საკმარისი ინფორმაცია პარლამენტს, მათ შორის მის შერჩეულ კომიტეტებს, რათა ეფექტურად გამოიკვლიონ მისი პოლიტიკა ხელოვნური ინტელექტის შესახებ,” – ნათქვამია მან. „ბუნებრივია, გვესმის, რომ პოლიტიკის შემუშავების ელემენტები შეიძლება იყოს უაღრესად სენსიტიური, მაგრამ არსებობს ასეთი ინფორმაციის მოგვარების გზები. საიდუმლოების არგუმენტები არ უნდა იქნას გამოყენებული ანგარიშვალდებულების გვერდის ავლით“.

კომიტეტმა ასევე მოუწოდა მთავრობას, მაგალითისთვის მიეღო საერთაშორისო ჩართულობა სამხედრო AI-სა და AWS-ზე.

”AI უსაფრთხოების სამიტი მისასალმებელი ინიციატივა იყო, მაგრამ ის არ მოიცავდა თავდაცვას. მთავრობამ უნდა შეიტანოს ხელოვნური ინტელექტი AWS-ში თავის გამოცხადებულ სურვილში, რომ „ერთად ვიმუშაოთ ინკლუზიური გზით, რათა უზრუნველყოს ადამიანზე ორიენტირებული, სანდო და პასუხისმგებელი AI, რომელიც უსაფრთხოა“ და მხარი დაუჭიროს „ყველას სიკეთეს არსებული საერთაშორისო ფორუმებითა და სხვა შესაბამისი ინიციატივებით“. თქვა მან და მიუთითა ბლეჩლის დეკლარაციაზე, რომელსაც ხელი მოაწერა სამიტზე 28 ქვეყანამ.

„საერთაშორისო საზოგადოება უკვე რამდენიმე წელია მსჯელობს AWS-ის რეგულირების შესახებ. ამ დებატების შედეგები შეიძლება იყოს იურიდიულად სავალდებულო ხელშეკრულება ან არასავალდებულო ღონისძიებები, რომლებიც განმარტავს საერთაშორისო ჰუმანიტარული სამართლის გამოყენებას – თითოეულ მიდგომას ჰყავს თავისი მომხრეები. ფორმის შესახებ განსხვავებების მიუხედავად, მთავარი მიზანია დაჩქარდეს ძალისხმევა ეფექტური საერთაშორისო ინსტრუმენტის მისაღწევად“.

მოხსენების საპასუხოდ, პიტერ ბერტმა არასამთავრობო ორგანიზაცია Drone Wars UK-დან, რომელმაც ჩვენება მისცა კომიტეტს 2023 წლის აპრილში, თქვა, რომ „ლორდთა კომიტეტმა აღიარა, რომ ავტონომიური იარაღის სისტემები – „მკვლელი რობოტები“ – ერთ-ერთი ყველაზე საკამათო გამოყენებაა. AI დღეს და ცალსახად განაცხადა, რომ ეს სისტემები უნდა დარჩეს ადამიანის კონტროლის ქვეშ მათი ცხოვრების ციკლის ყველა ეტაპზე.

”სამწუხაროდ, დიდი ბრიტანეთის მთავრობა წინ მიიწევს ავტონომიური იარაღის შემუშავების მიზნით, მიუხედავად იმისა, თუ რა რისკებს წარმოადგენს ისინი,” – თქვა მან. „ავტონომიური იარაღის ეთიკური საფრთხეებისა და ზიანის გათვალისწინება ბევრად ჩამორჩება თავად იარაღების კვლევას“.

ბერტმა დასძინა, რომ დიდი ბრიტანეთის მთავრობამ საჯაროდ თქვა AWS-ის საკითხთან დაკავშირებით, „ეს იყო მხოლოდ ფანჯრის გაფორმება“ და რომ „ეს იყო ნათქვამი, რომ მთავრობის მაღალი დონის საერთაშორისო AI უსაფრთხოების სამიტი ცალსახად გამორიცხავს სამხედრო აპლიკაციების განხილვას. ხელოვნური ინტელექტის – ყველაზე მავნე პოტენციალის გამოყენება, რაც შეიძლება წარმოიდგინოთ“.

საერთაშორისო კონტროლი

ბერტმა თქვა, რომ მთავარი მიზანი ახლა, როგორც ლორდებმა დაასკვნეს, არის მცდელობების დაჩქარება „ეფექტური საერთაშორისო ინსტრუმენტის“ შესაქმნელად ხელოვნური ინტელექტის სამხედრო გამოყენების გასაკონტროლებლად. „თუკი „გლობალურ ბრიტანეთს“ რაიმე მნიშვნელობა უნდა ჰქონდეს, გაერთიანებული სამეფოს მთავრობამ ახლა უნდა გადააგდოს მზარდი მოძრაობა სრულად ავტონომიური იარაღის სისტემების აკრძალვის მიზნით“, – თქვა მან.

2022 წლის ნოემბერში კონგრესის კვლევის სამსახურის მიერ გამოქვეყნებულ ანგარიშში „განვითარებული სამხედრო ტექნოლოგიების“ შესახებ, ანალიტიკოსებმა აღნიშნეს, რომ დაახლოებით 30 ქვეყანა და 165 არასამთავრობო ორგანიზაცია (NGO) მოითხოვდა კანონების გამოყენების წინასწარი აკრძალვის შესახებ. მათ გამოყენებასთან დაკავშირებული ეთიკური შეშფოთება, მათ შორის ანგარიშვალდებულების პოტენციური ნაკლებობა და კონფლიქტის გარშემო საერთაშორისო კანონების დაცვის შეუძლებლობა.

2023 წლის ნოემბრის დასაწყისში, გაეროს (გაერო) განიარაღების ორგანომ დაამტკიცა რეზოლუციის პროექტი ხელოვნური ინტელექტის მქონე იარაღის სისტემების ნეგატიური ზემოქმედების შესახებ, სადაც ნათქვამია, რომ არსებობს საერთაშორისო მოქმედების „გადაუდებელი საჭიროება“ გამოწვევებისა და პრობლემების გადასაჭრელად.

რეზოლუციამ კონკრეტულად სთხოვა გაეროს გენერალურ მდივანს, ანტონიო გუტერესს, მოეძია წევრი ქვეყნების შეხედულებები AWS-ის შესახებ – ისევე როგორც მათი შეხედულებები „თან დაკავშირებული გამოწვევებისა და შეშფოთების გადაჭრის გზებზე ჰუმანიტარული, სამართლებრივი, უსაფრთხოების, ტექნოლოგიური და ეთიკური პერსპექტივიდან და ადამიანის როლი ძალის გამოყენებაში“ – და გამოაქვეყნეთ ისინი „არსებით ანგარიშში“, რომელიც ასახავს მოცემული პერსპექტივების სრულ სპექტრს.

რეზოლუციაში ასევე ნათქვამია, რომ პირველი კომიტეტი დღის წესრიგში შეიტანს კანონების შესახებ სესიას მომდევნო სესიისთვის, დაწყებული 2024 წლიდან. როგორც რეზოლუციის პროექტი, ის ამჟამად გენერალურ ასამბლეაშია განსახილველად და მოქმედებისთვის.

გაერთიანებული სამეფოს მთავრობის პასუხი კომიტეტის ანგარიშზე მალე 2024 წლის იანვარშია მოსალოდნელი.

[ad_2]

Facebook Comments

კომენტარის დატოვება

თქვენი ელფოსტის მისამართი გამოქვეყნებული არ იყო. აუცილებელი ველები მონიშნულია *