تحذير من مخاطر استخدام chatgpt4o في عمليات الاحتيال المالي
آخر تحديث GMT21:51:19
 العرب اليوم -

تحذير من مخاطر استخدام ChatGPT-4o في عمليات الاحتيال المالي

 العرب اليوم -

 العرب اليوم - تحذير من مخاطر استخدام ChatGPT-4o في عمليات الاحتيال المالي

تشات جي بي تي الصورة من (unsplash)
واشنطن ـ العرب اليوم

بقدر ما للذكاء الاصطناعي من فوائد عديدة إلا أن له مخاطر كبيرة في نفس الوقت يجب الحذر منها.فقد أظهرت دراسة حديثة أن واجهة برمجة التطبيقات الصوتية لمساعد ChatGPT-4o من OpenAI قد يستغلها مجرمو الإنترنت لتنفيذ عمليات احتيال مالي، لافتة إلى أن معدلات نجاح هذه العمليات تتراوح بين منخفضة ومتوسطة.

ويعد ChatGPT-4o أحدث نموذج ذكاء اصطناعي من OpenAI، ويتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها. للحد من إساءة الاستخدام، أدمجت OpenAI آليات أمان عدة تهدف إلى اكتشاف المحتوى الضار، ومنع تكرار الأصوات غير المُصرّح بها.

غير أنه مع ازدياد انتشار تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، تتفاقم مشكلة الاحتيال الصوتي التي تقدر خسائرها بالملايين.
تفتقر إلى آليات حماية كافية

ونشر باحثون من جامعة إلينوي ورقة بحثية تبين أن الأدوات التقنية الحديثة المتاحة للجمهور تفتقر إلى آليات حماية كافية من إساءة استخدامها في عمليات الاحتيال.

كما استعرضت الدراسة أنواعاً متعددة من عمليات الاحتيال، منها التحويلات المصرفية وسرقة بطاقات الهدايا وتحويل العملات الرقمية وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.

وتستخدم هذه العمليات الاحتيالية أدوات مبرمجة تعتمد على الصوت في ChatGPT-4o للتنقل بين صفحات الويب، وإدخال البيانات، وإدارة الأكواد الخاصة بالمصادقة الثنائية، واتباع إرشادات الاحتيال. ويرفض نموذج GPT-4o غالباً التعامل مع بيانات حساسة، إلا أن الباحثين استطاعوا تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.

ولإثبات فاعلية عمليات الاحتيال، حاكى الباحثون أدوار الضحايا في التجارب، واستخدموا مواقع مثل "بنك أميركا" للتحقق من نجاح عمليات التحويل المصرفي، لكنهم لم يقيسوا مدى قدرة النموذج على الإقناع.
فيما أظهرت التجارب أن معدلات النجاح تراوحت بين 20% و 60%، مع احتياج كل محاولة لما يصل إلى 26 خطوة متتالية عبر المتصفح، وقد استغرقت نحو 3 دقائق في الحالات المعقدة. كما نجحت عمليات سرقة بيانات حسابات Gmail بنسبة قدرها 60%، في حين بلغت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام 40%.

أما من ناحية التكاليف، فإن تكلفة تنفيذ عمليات الاحتيال تعد منخفضة، إذ بلغت تكلفة كل عملية ناجحة نحو 75 سنتاً أميركياً، فيما بلغت تكلفة عمليات التحويل المصرفي الأكثر تعقيداً نحو 2.51 دولار فقط.
OpenAI تعلق

وفي تعليق لـOpenAI نشره موقع BleepingComputer التقني، أشارت الشركة إلى أن نموذجها الأحدث "o1-preview" يتمتع بقدرات عالية في مقاومة محاولات الاحتيال، وتحسين الأمان مقارنة بالنماذج السابقة، فضلاً عن تحقيقه تقييما عاليا في اختبارات الأمان بنسبة قدرها 93%، مقارنة بـ71% في نموذج GPT-4o.

كما أوضحت أن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تسهم في تحسين ChatGPT لمواجهة الاستخدامات الضارة.

فيما ختمت مؤكدة التزامها بتعزيز آليات الأمان في نماذجها القادمة، وتقيّد توليد الأصوات في GPT-4o بمجموعة من الأصوات المصرح بها لتجنب عمليات التزييف الصوتي

arabstoday

الإسم *

البريد الألكتروني *

عنوان التعليق *

تعليق *

: Characters Left

إلزامي *

شروط الاستخدام

شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات أو مهاجمة الأديان أو الذات الالهية. والابتعاد عن التحريض الطائفي والعنصري والشتائم.

اُوافق على شروط الأستخدام

Security Code*

 

تحذير من مخاطر استخدام chatgpt4o في عمليات الاحتيال المالي تحذير من مخاطر استخدام chatgpt4o في عمليات الاحتيال المالي



هند صبري بإطلالة أنثوية وعصرية في فستان وردي أنيق

القاهرة ـ العرب اليوم

GMT 00:54 2024 الإثنين ,04 تشرين الثاني / نوفمبر

أبرز قصات فساتين الزفاف الهالتر الرائجة في 2025
 العرب اليوم - أبرز قصات فساتين الزفاف الهالتر الرائجة في 2025

GMT 16:06 2024 الإثنين ,04 تشرين الثاني / نوفمبر

بانكوك وجهة سياحية أوروبية تجمع بين الثقافة والترفيه
 العرب اليوم - بانكوك وجهة سياحية أوروبية تجمع بين الثقافة والترفيه

GMT 02:43 2024 الإثنين ,04 تشرين الثاني / نوفمبر

غوتيريس "قلق جدا" لوجود قوات كورية شمالية في روسيا
 العرب اليوم - غوتيريس "قلق جدا" لوجود قوات كورية شمالية في روسيا

GMT 01:10 2024 الإثنين ,04 تشرين الثاني / نوفمبر

دليل مُساعد لإضافة لمسة جذابة إلى صالون المنزل
 العرب اليوم - دليل مُساعد لإضافة لمسة جذابة إلى صالون المنزل

GMT 10:59 2024 السبت ,02 تشرين الثاني / نوفمبر

حمية مستوحاة من الصيام تدعم وظائف الكلى وصحتها

GMT 08:56 2024 الإثنين ,04 تشرين الثاني / نوفمبر

هجرات جديدة على جسور الهلال الخصيب

GMT 17:12 2024 الأحد ,03 تشرين الثاني / نوفمبر

مقتل 31 شخصا على الأقل في هجمات إسرائيلية في قطاع غزة

GMT 03:11 2024 الإثنين ,04 تشرين الثاني / نوفمبر

الخطوط الجوية الفرنسية تعلق رحلاتها فوق البحر الأحمر

GMT 22:38 2024 الأحد ,03 تشرين الثاني / نوفمبر

زلزال بقوة 5.2 درجة على مقياس ريختر يضرب شمال اليونان

GMT 17:36 2024 الأحد ,03 تشرين الثاني / نوفمبر

إصابة 32 جنديا بينهم 22 في معارك لبنان و10 في غزة خلال 24 ساعة

GMT 01:36 2024 الأحد ,03 تشرين الثاني / نوفمبر

الدولة الفلسطينية
 
syria-24

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Maintained and developed by Arabs Today Group SAL
جميع الحقوق محفوظة لمجموعة العرب اليوم الاعلامية 2023 ©

Arabstoday Arabstoday Arabstoday Arabstoday
arabstoday arabstoday arabstoday
arabstoday
بناية النخيل - رأس النبع _ خلف السفارة الفرنسية _بيروت - لبنان
arabs, Arab, Arab