Хүн, бот хоёрын бичсэн контентыг ялгахад хэцүү болж байна

0


Нийтлэл, хайрын захиа, дунд сургуулийн сурагчийн эсээ, сэтгэцийн эрүүл мэндийн зөвлөгөө (шагнал хүртсэн урлагийн бүтээл ч бий) зэргийг бичихэд хиймэл оюун ашиглах нь гэнэтхэн моод болов. Ботын бичсэн контентод олон хүн таагүй хандаж, хууртагдсан мэт мэдрэмжид хөтлөгдөж мэднэ.

Хүний оюун бодлоос төрсөн үү, эсвэл ботын хийсэн зүйл үү гэдгийг ялгаж танихад нь хүмүүст туслах программ бүтээхээр судлаач, программистууд хичээж байна. Гэвч технологи үсрэнгүй хурдацтай хөгжиж буй энэ цаг үед ямар ч программ бүх зүйлтэй хөл нийлүүлэн алхах хэцүү.

Өдгөө 39 настай, хоёр хүүхдийн эцэг Даниель Морган OpenAI компанийн ChatGPT хэмээх текст ботыг хэдэн удаа ашиглаж талархал, хүүхдэдээ унтахад нь уншиж өгөх үлгэр, маркетингийн материал бичүүлжээ. Тэрбээр дисклекситэй учир (унших чадваргүй) ChatGPT ашиглаж үл хөдлөх хөрөнгийн хөрөнгө оруулалт, зуучлалын Marterra Group компанийнхаа блогт цөөнгүй пост оруулсан аж.

“Ботын бичсэн материалыг би баяжуулаад, ажлынхаа хүнд өгч компанийн ажиллагаанд нийцүүлэн өөрчлүүлдэг. Ингэснээр буруу утгатай зүйл оруулах, дүрмийн алдаатай бичсэн гэж санаа зовох шаардлагагүй байдаг” гэж Д.Морган өгүүлэв.

OpenAI компанийн нийтлэл бичдэг ChatGPT, зураг үүсгэгч Dall-E 2 зэрэг ботууд нь хүний бүтээснээс ялгагдахын аргагүй зүйл бүтээж чаддаг асар олон төрлийн программуудын зөвхөн ганц жишээ билээ. Хиймэл оюун ашигладаг бусад программ нь огт бичигдэж, хийгдэж байгаагүй үгс, үйлдлийг оруулсан deepfake бичлэгийг хүртэл бүтээх болжээ.

ChatGPT ашигладаг гэдгээ Д.Морган хамт ажиллагсдаасаа нуудаггүй бол өөр олон хэрэглэгч нуудаг байх боломжтой. Тиймээс хиймэл оюуны үүсгэсэн контентыг ялгаж, роботод хууртахгүй байхад туслах аргуудыг танилцуулъя.

Дижитал мөрдөгч

Оюутан, сурагч нар эсээ бичих, бусад даалгавраа хийхдээ ChatGPT-г ашиглаж магадгүй гэсэн айдас бий ч багш нар үүнийг олж илрүүлэх боломжтой юм. Саяхан Нью-йорк хотын боловсролын алба эл бүтээгдэхүүнийг өөрийн сүлжээ, төхөөрөмжид ашиглах боломжийг хязгаарласан. Ажилтнууд нь уг ботыг ашиглаж залилан мэхлэх вий хэмээн бусад салбарынхан ч санаа зовниж байна.

Аливаа зүйлийг машинаар бичигдсэнийг нь хүмүүс анзаарахгүй байж магадгүй гэсэн болгоомжлол өсөн нэмэгдэж байгаа учир эл асуудлыг шийдвэрлэх үүднээс Принстоны их сургуулийн 22 настай оюутан Эдвард Тиан GPTZero-г бүтээжээ. Уг программыг ашиглахад хялбар бөгөөд хиймэл оюунаар бүтээсэн байж магадгүй гэж сэжиглэж буй текстээ хуулж аваад уг программд оруулахад болно. Улмаар тухайн текст үүсмэл, эсвэл хүн бичсэн магадлалыг GPTZero харуулах юм. Уг программ нь хэд хэдэн хүчин зүйл дээр үндэслэж текстийг шалгадаг. Нэг гол шалгуур бол хүмүүс ихэвчлэн олон төрлийн үгийн сонголт, ялгаатай урттай өгүүлбэр ашиглаж бичдэг бол хиймэл оюун нэг хэвийн бичлэгтэй байдагт оршино.

Ажилдаа туслуулах, хийсэн зүйлээ сайжруулахын тулд хүмүүсийг хиймэл оюун ашиглахыг нь эсэргүүцээгүй боловч “үнэхээр уран гоё, үргэлжилсэн үгийн зохиолын бичвэр, өөрийн гэсэн хэв маяг зэрэг хүний бичлэгийн содон шинжүүд байдгийг компьютер дуурайж чадахгүй, тэгэх ч ёсгүй” хэмээн GPTZero-г бүтээсэн шалтгаанаа Э.Тиан тайлбарласан юм.

Хиймэл оюунд суурилсан машин сургалтын программ хөгжүүлдэг Hugging Face компани үүнтэй төстэй вэбсайтыг 2019 оноос ажиллуулж эхэлжээ. Тус сайт руу 50 үг оруулахад хүнээр эсвэл машинаар бичигдсэн магадлалыг нь харуулдаг юм.

Эдгээр программ сул талтай, хиймэл оюун хөгжихийн хэрээр шинэчлэлт заавал хийх ёстой юм. Тухайлбал, Hugging Face-ийн программ нь OpenAI-ийн текст үүсгэгчийн хуучин хувилбар болох GPT-2 дээр туршигдсан учраас GPT-3 текст үүсгэгчийн бичсэн зүйлийг хүн бичсэн гэж андуурч таньдаг. GPTZero ч мөн адил хуучин хувилбар дээр нь үндэслэн ажилладаг юм. Хэдий тийм боловч тухайн бүтээлийг жинхэнэ эсвэл хуурамч эсэхийг таних илүү сайн сонголт бол GPTZero билээ.

Толгойгоо ажиллуулах

Эдгээр аргаас гадна хүний үл итгэгч сөрөг зан ч дутахгүй чухал гэж Hugging Face-ийн бодлого хариуцсан захирал Ирен Солайман хэллээ. Үг, утга давтагдсан, алдаатай бичигдсэн зэрэг алдааг хайх юм бол хиймэл оюунаар бичигдсэн зүйл уншиж буй эсэхээ хүмүүс өөрсдөө мэдэх боломжтой гэж тэрбээр зөвлөв. “Орчин үеийн өгөгдөл, цаг хугацааны хамрах хүрээг буруу ойлгож байгааг нь хиймэл оюуны бичлэгийн загвараас нь олж харж болно” хэмээн Ирен нэмж хэллээ.

Deepfake ашиглан хиймэл оюунаар бүтээсэн контент, ялангуяа дүрс, бичлэгийг нүд, тархиа ашиглан таних боломжтой. Үүний тулд Массачусетсийн технологийн институтийн Media Lab-ийн доктор Мэтт Гро нарын хамтран бүтээсэн судалгааны Detect Fakes төслийг ашиглаж болно. Уг дасгал нь танаас нийт 32 текст, гэрэл зураг, бичлэгийн аль нь жинхэнэ эсвэл хиймэл оюун ашиглаж хийсэн гэдгийг танихыг хүсдэг.

Тухайн хүний уруулын хөдөлгөөн бодитой эсэхэд анхаарал хандуулах зэргээр deepfake-ийг таних өөр олон аргыг Detect Fakes-ийг бүтээсэн баг санал болгож буй. Мөн яагаад ийм гэрэл зураг, бичлэг хийгдсэн байж болох вэ гэдгийг та маш сайн тунгаан бодох хэрэгтэй.

“Хорвоо ертөнцийн талаар хиймэл оюун юу мэдэх вэ гэдгийг бодож үзээд тухайн зүйлийн агуулгад нь анхаарах ёстой. Мөн тэрхүү зураг, видеог хийх болсон сэдэл, тухайн хүн юу хэлж байгааг, яагаад хэлж байгааг ч анхааралдаа авах нь зөв” гэж М.Гро хэлсэн ч deepfake аргаар хийсэн бүхнийг таних шидэт арга байхгүйг сануулав.

Дуусашгүй тулаан

Хиймэл оюунаар үүсгэсэн зураг, видеог олж илрүүлэх, таних аргыг өөр олон компани, их сургууль хөгжүүлж байна. Өнгөрсөн оны 11 дүгээр сард Intel-ийн танилцуулсан FakeCatcher программ нь аливаа видеог жинхэнэ эсвэл хиймэл эсэхийг танихын тулд хүний биологийн процессыг илэрхийлдэг арьсны өнгөний ялимгүй өөрчлөлт, цусны урсгалын шинж тэмдгийг анзаардаг. Энэхүү программыг хэвлэл мэдээллийн байгууллага, нийгмийн сүлжээний хэд хэдэн компани ашиглаж эхэлсэн талаар тус компанийн судлаач Илке Демир өгүүлсэн юм.

Гэхдээ ирээдүйн хиймэл оюун нь цусны урсгал, нүүрний арьсны өнгө өөрчлөгдөх зэргийг ч “зальдах” чадвартай болж хөгжинө хэмээн доктор Демир таамаглаж байна.

Хиймэл оюун ашигласан программ, арга хэрэглүүр нэмэгдэхийн хэрээр тэдгээрийн хийсэн зүйлийг олж таних, ялгахын тулд цор ганц загвар, арга барилд найдах нь аюултай гэж тэр бээр үзэж буй.

Тухайн контент хэр бодитой вэ гэдгийг тодорхойлохын тулд ялгаатай үр дүнгүүдийг нэгтгэн шинжилдэг платформ үүсгэх нь илүү зөв гэж И.Демир хэлсэн юм. “Нэг алгоритмыг ялгаж танихыг хичээх бус олныг таньдаг болох арга учраас ийм платформ нь илүү үнэ цэнтэй юм” гэж тэр бээр өгүүлэв.

Эх сурвалж: Wall Street Journal, сэтгүүлч Анн-Мари Алкантара





Source link

0 0 санал
Мэдээг үнэлэх
guest
0 Сэтгэгдэл байна
Шугаман санал хүсэлт
Бүх сэтгэгдлийг үзэх
0
Таны санал бодол сэтгэгдлээ бичих үү?x