Изкуствените интелекти са се научили системно да лъжат своя събеседник, въпреки че никой не ги е обучавал специално за това, а в някои случаи дори им е било забранено подобно поведение. Това се казва в научна статия, публикувана в списание Patterns.
Група изследователи от Масачузетския технологичен институт (САЩ) отбелязва, че изкуственият интелект се обучава върху огромен брой текстове, които не винаги съдържат надеждна информация. Поради това невронната мрежа понякога може да даде
невярна информация
на събеседника, искрено вярвайки, че казва истината.
Това го знаем, но…
Ново проучване обаче показва, че понякога една невронна мрежа може да лъже съвсем „съзнателно“. Авторите анализираха поведението на така наречените големи езикови модели (като GPT-4) и модели, обучени за по-специфични задачи (като игра на видео игри или търговия на пазара).
В един от разглежданите случаи невронната мрежа GPT-4 успя да измами човек, принуждавайки го да премине стандартния „captcha“ „Докажете, че не сте робот“.
Невронните мрежи са се научили да лъжат и манипулират: учените предупреждават за опасност.
Изследователите също така видяха как невронната мрежа CICERO побеждава хората в настолната игра „Дипломация“, като
прибягва до измама
Изследователите установиха, че когато играе като Франция, езиковият модел принуждава Англия (изиграна от човек) да преговаря тайно с Германия (друг човек). Невронната мрежа също така покани Англия да атакува Германия и обеща защита от своя страна, след което предупреди Германия за възможна атака.
Изследователите установяват, че склонността към измама е по-висока в по-модерните и по-сложни невронни мрежи. Според учените тези невронни мрежи са по-способни да намерят ефективни поведенчески стратегии, а те от своя страна често включват лъжи и преструвки.
Според изследователите е твърде рано да се каже, че AI умишлено мами хората. Невронната мрежа работи изключително в логиката на решаване на поставената задача и използва измамата именно като инструмент за постигане на желания резултат.
Авторите на изследването обаче призоваха разработчиците на AI да обърнат внимание на това поведение на невронните мрежи. Според тях е необходимо да се разработи система за регулиране на AI, тъй като способността му да мами и манипулира може да доведе до сериозни последствия.
Развитие на невронни мрежи: последни новини
Наскоро OpenAI пусна езиковия модел GPT-4o, който приближава изкуствения интелект малко по-близо до хората. Скоро в интернет се разпространи списък, в който чатботът беше помолен да изброи професиите, които може да замени.
Също така ви казахме, че Google проведе своята годишна пролетна I\O презентация, на която, наред с други неща, бяха представени нови AI инструменти за създаване на медийно съдържание: Veo, който генерира 1080p видео, и Imagen 3, най-мощният AI художник на компанията.
