سایبربولینگ و تاثیر هوش مصنوعی
Keywords:
سایربولینگ, هوش مصنوعی, پردازش زبان طبیعی, چالش های اخلاقیAbstract
سایبر بولیینگ بهعنوان یکی از مشکلات جدی عصر دیجیتال، اثرات منفی عمیقی بر سلامت روانی، اجتماعی و اقتصادی افراد و جوامع دارد. با گسترش استفاده از شبکههای اجتماعی، هوش مصنوعی به ابزاری کلیدی برای شناسایی و مقابله با این معضل تبدیل شده است. این مقاله مروری با رویکردی سیستماتیک، علمی معتبر از پایگاههایی نظیر PubMed، Google Scholar و IEEE Xplore را بررسی کرده است. مقالات انتخابی بر اساس ارتباط موضوعی، تاریخ انتشار (2018 به بعد)، و کیفیت علمی تحلیل شدند. سپس، تکنیکهای هوش مصنوعی، دقت سیستمها، و چالشهای فنی و اخلاقی استخراج و ارزیابی شدند تا تصویری جامع از وضعیت فعلی و نیازهای پژوهشی ارائه شود.این مقاله مروری به بررسی جامع نقش الگوریتمهای هوش مصنوعی در شناسایی محتوای آزاردهنده میپردازد. ابتدا، تکنیکهای پیشرفته مورد استفاده در پردازش زبان طبیعی (NLP)، یادگیری عمیق و سیستمهای چندمدلی برای تحلیل متن، تصویر و ویدئو معرفی میشوند. سپس، عملکرد و دقت این سیستمها از طریق تحلیل آماری و مطالعات موردی در پلتفرمهای اجتماعی نظیر توییتر، فیسبوک و اینستاگرام ارزیابی میشود. چالشهای فنی نظیر درک زمینه در متون، تحلیل زبانهای عامیانه و چندگانه، و شناسایی محتوای پیچیده بصری بررسی شده و محدودیتهای کنونی تشریح میگردد. علاوه بر این، به چالشهای اخلاقی مانند نقض حریم خصوصی، سوگیری الگوریتمها، و شفافیت تصمیمگیری پرداخته میشود. در پایان، راهکارهایی شامل توسعه الگوریتمهای توضیحپذیر، ترکیب هوش مصنوعی و نیروی انسانی، و ایجاد قوانین اخلاقی پیشنهاد میشود. نتایج نشان میدهد که بهرغم پیشرفتهای چشمگیر، برای مقابله با سایبر بولیینگ به تحقیقات بیشتر، دادههای متنوعتر و همکاریهای بینالمللی نیاز است.
Downloads
References
1 .تبریزی، مصطفی.، استکی، مهناز. و ملاعلی حسینی، سمانه. ) 1393 (. مقایسه ی اختلالات رفتاری دانش آموزان سایبربولین گ
و عادی. فصلنامه ی روانشناسی مدرسه، 4 ( 4 ،) 6 - 20 .
2 . حاجی وند، امین.، خوش منظر، عل ی. و سیاری زهان، صابر. ) 1403 (. تاریخچه مختصری از هوش مصنو عی: گذشته، حال و
آینده هوش مصنو عی. ویژه نامه هوش مصنو عی. 6 ( 18 .) 73 - 90 .
3 . حسینی، آمنه.، زندی، آمنه. و تدین، عباس. ) 1402 (. بررسی جرم قلدری مجازی در حقوق کیف ری ایران و آمریکا . پژوهش
های حقوق تطبیقی. 27 ( 3 .) 76 - 112 .
1. Dosovitskiy, A., et al. (2021). An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. “Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition“, 2021, 10023-10033.
2. Kim, J., Kim, Y., & Lee, H. (2021). Sentiment Analysis Using Bidirectional LSTM and Attention Mechanism for Online Harassment Detection. “IEEE Access, 9“, 36784-36796.
3. Franco, L., & Ghanayim, K. (2019). The criminalization of Cyberbullying among children and Youth, Sanata Clara. Journal of International Law,Vol.17, PP. 1-49.
4. Meta Community Standards Report. (2023). Content Moderation Performance Metrics. [Online Report].
5. Nguyen, H., Tran, Q., & Vo, T. (2023). Deep Learning Models for Violent Content Detection in Video Streams. “Pattern Recognition Letters, 174“, 78-87.
6. Radford, A., Kim, J. W., Hallacy, C., et al. (2021). Learning Transferable Visual Models From Natural Language Supervision. “International Conference on Machine Learning (ICML)“, 2021.
7. Sun, C., Myers, A., & Singh, V. (2022). VideoBERT: A Model for Video-Language Understanding. “Transactions on Multimedia“, 2022.
8. Twitter Transparency Report. (2023). Addressing Abuse and Harassment on Twitter. [Online Report].
9. Zhou, J., Li, C., & Yang, Z. (2022). Advances in Textual Abuse Detection Using Natural Language Processing Techniques. “Journal of Artificial Intelligence Research, 65“, 213-238.
