ჟურნალისტი და ავტორი სტივენ როზენბაუმი, რომელიც აქტიურად აკრიტიკებს ხელოვნური ინტელექტის გავლენას სიმართლეზე, მოულოდნელად საკუთარივე წიგნის სკანდალის ცენტრში აღმოჩნდა. მისი ახალი ნაშრომი, "The Future of Truth: How AI Reshapes Reality", სწორედ იმ პროცესებს ეხება, სადაც სიმართლე ხელოვნური ინტელექტის ზეწოლის შედეგად იკარგება და იცვლება.

თუმცა, როგორც The New York Times-ის გამოძიებამ დაადგინა, სწორედ ავტორის მიერ კვლევის პროცესში გამოყენებულმა AI ინსტრუმენტებმა შექმნა ის პრობლემა, რომელსაც წიგნი ებრძვის. კერძოდ, წიგნში აღმოჩნდა არაერთი ყალბი ან არასწორად მიკუთვნებული ციტატა.

რა გაირკვა გამოძიებით?

სკანდალი მას შემდეგ გასკდა, რაც წიგნში მოხსენიებულმა პირებმა საკუთარი ციტატების ნამდვილობა უარყვეს. ცნობილმა ტექნოლოგიურმა ჟურნალისტმა კარა სვიშერმა განაცხადა, რომ ის სიტყვები, რომლებიც როზენბაუმმა მას მიაწერა, არასდროს წარმოუთქვამს.

ანალოგიური პოზიცია დაიკავა ნორთისთერნის უნივერსიტეტის პროფესორმა ლიზა ფელდმან ბარეტმაც. მისი თქმით, წიგნში მოყვანილი ციტატები არამხოლოდ არ არის მისი ნაშრომებიდან, არამედ ფაქტობრივადაც მცდარია.

ავტორის პოზიცია

სტივენ როზენბაუმმა აღიარა, რომ წიგნში ნამდვილად არის "ხელოვნურად შექმნილი" ციტატები, რომლებიც მან AI ტექნოლოგიების გამოყენებისას დაუშვა. მიუხედავად ამისა, ავტორი არ აპირებს ამ ინსტრუმენტებზე უარის თქმას.

ამჟამად როზენბაუმი რედაქტორებთან ერთად მუშაობს სრულ "ციტირების აუდიტზე". მიზანი წიგნის სამომავლო გამოცემებში ყველა შეცდომის გამოსწორებაა. ავტორი აცხადებს, რომ აგრძელებს ამ ტექნოლოგიების გამოყენებას, თუმცა მომავალში უფრო მეტ სიფრთხილეს გამოიჩენს.

ეს შემთხვევა კიდევ ერთხელ უსვამს ხაზს იმ საფრთხეებს, რაც თან ახლავს ავტომატური სისტემების ბრმად ნდობას კვლევით და საგამომცემლო საქმიანობაში. მაშინაც კი, როდესაც ავტორი სიმართლის დაცვას ცდილობს, AI-ს მიერ გენერირებულმა "ჰალუცინაციებმა" შეიძლება სერიოზული რეპუტაციული ზიანი მიაყენოს ნაშრომის სანდოობას.