ვასწრებთ თუ არა AI-ის უსაფრთხოებაზე ზრუნვას?

ჯეისონ კოქსონი, OpenAI-ისა და Anthropic-ის ყოფილი მკვლევარი, AI-ის განვითარების ტემპსა და უსაფრთხოებას შორის მზარდ სხვაობაზე საუბრობს.

მისი მთავარი შეშფოთება ხელოვნური ინტელექტის მიერ საკუთარი მომდევნო თაობების შექმნაში მონაწილეობაა. თუ AI კვლევისა და გაუმჯობესების პროცესში სულ უფრო დიდ როლს შეასრულებს, პროგრესი შესაძლოა დაჩქარდეს, ადამიანებს კი სისტემების მოქმედების გაგება და კონტროლი გაურთულდეთ. მომხსენებლის შეფასებით, რისკს კომპანიებს შორის პირველობისთვის ბრძოლაც ზრდის.

ამასთან, ის აღიარებს AI-ის პოტენციალს მეცნიერებაში, მედიცინასა და ეკონომიკაში. მისი მოწოდებაა მეტი გამჭვირვალობა, დამოუკიდებელი ექსპერტების ჩართულობა და ყველაზე მოწინავე სისტემების განვითარების შენელება, სანამ მათი უსაფრთხოების მიმართ საკმარისი ნდობა არ გაჩნდება.

კონტროლის დაკარგვა და ადამიანთა გადაშენება აქ შესაძლო რისკებად განიხილება — არა გარდაუვალ შედეგად ან დადასტურებულ პროგნოზად.

რამდენად მზად ვართ AI-ს მეტი პასუხისმგებლობა გადავაბაროთ, თუ მისი კონტროლის შესაძლებლობები იმავე ტემპით არ ვითარდება?