تربیت الگوریتمهای مولد با دادههای جنایی واقعی: شناخت روان جنایتکار یا بازتولید تعصب؟
Keywords:
تعصب الگوریتمی, روانشناسی جنایی, هوش مصنوعی مولدAbstract
سایبر بولیینگ بهعنوان یکی از مشکلات جدی عصر دیجیتال، اثرات منفی عمیقی بر سلامت روانی، اجتماعی و اقتصادی افراد و جوامع دارد. با گسترش استفاده از شبکههای اجتماعی، هوش مصنوعی به ابزاری کلیدی برای شناسایی و مقابله با این معضل تبدیل شده است. این مقاله مروری با رویکردی سیستماتیک، علمی معتبر از پایگاههایی نظیر PubMed، Google Scholar و IEEE Xplore را بررسی کرده است. مقالات انتخابی بر اساس ارتباط موضوعی، تاریخ انتشار (2018 به بعد)، و کیفیت علمی تحلیل شدند. سپس، تکنیکهای هوش مصنوعی، دقت سیستمها، و چالشهای فنی و اخلاقی استخراج و ارزیابی شدند تا تصویری جامع از وضعیت فعلی و نیازهای پژوهشی ارائه شود.این مقاله مروری به بررسی جامع نقش الگوریتمهای هوش مصنوعی در شناسایی محتوای آزاردهنده میپردازد. ابتدا، تکنیکهای پیشرفته مورد استفاده در پردازش زبان طبیعی (NLP)، یادگیری عمیق و سیستمهای چندمدلی برای تحلیل متن، تصویر و ویدئو معرفی میشوند. سپس، عملکرد و دقت این سیستمها از طریق تحلیل آماری و مطالعات موردی در پلتفرمهای اجتماعی نظیر توییتر، فیسبوک و اینستاگرام ارزیابی میشود. چالشهای فنی نظیر درک زمینه در متون، تحلیل زبانهای عامیانه و چندگانه، و شناسایی محتوای پیچیده بصری بررسی شده و محدودیتهای کنونی تشریح میگردد. علاوه بر این، به چالشهای اخلاقی مانند نقض حریم خصوصی، سوگیری الگوریتمها، و شفافیت تصمیمگیری پرداخته میشود. در پایان، راهکارهایی شامل توسعه الگوریتمهای توضیحپذیر، ترکیب هوش مصنوعی و نیروی انسانی، و ایجاد قوانین اخلاقی پیشنهاد میشود. نتایج نشان میدهد که بهرغم پیشرفتهای چشمگیر، برای مقابله با سایبر بولیینگ به تحقیقات بیشتر، دادههای متنوعتر و همکاریهای بینالمللی نیاز است.
Downloads
References
1.
Gambetti, E., Cristani, M., and Sartori, G. (2023), “The use of generative AI in forensic profiling: Potentials and perils,” Forensic Science International: Mind and Law, 4, 100126. https://doi.org/10.1016/j.fsiml.2023.100126
2.
Sütfeld, L. R., Gast, R., König, P., and Pipa, G. (2022), “How generative AI influences moral and legal decision-making: Simulation in crime-related contexts,” Cognition, Technology and Work, 24(3), pp 469–484. https://doi.org/10.1007/s10111-022-00696-2
3.
Binns, R. (2023), “Algorithmic bias and criminal justice: Towards a sociotechnical understanding,” Journal of Artificial Intelligence and Law, 31(1), pp 1–22. https://doi.org/10.1007/s10506-022-09300-w
4.
Leslie, D., Burr, C., and Stahl, B. C. (2022), “Understanding bias in AI for criminal justice: A framework for critical analysis,” AI and Society, 37(1), pp 47–60. https://doi.org/10.1007/s00146-021-01222-5
5.
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., ... and Vayena, E. (2023), “AI4People: An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations,” Minds and Machines, 33(2), pp 267–288. https://doi.org/10.1007/s11023-022-09602-9
6.
Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., ... and Bengio, Y. (2014), “Generative adversarial nets,” Advances in Neural Information Processing Systems, 27, pp 2672-2680.
7.
Brown, T. B., Mann, B., Ryder, N., Subbiah, M., Kaplan, J., Dhariwal, P., ... and Amodei, D. (2020), “Language models are few-shot learners,” Advances in Neural Information Processing Systems, 33, pp 1877-1901.
8
. امانج آکادم ی. ) 1402 ( ،" هوش مصنو عی و تحلیل دادههای جنایی ، " آکادمی آمانج . https://amanjacademy.com
9.
Russell, S., and Norvig, P. (2021), “Artificial intelligence,” A modern approach (4th ed.). Pearson.
10.
Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daumé III, H., and Crawford, K. (2021), “Datasheets for datasets,” Communications of the ACM, 64(12), pp 86-92. https://doi.org/10.1145/3458723
11
. هفتهنامه شنبه. ) 1403 ( ،"وضع یت هوش مصنو عی در ایران،" https://shanbemag.com/artificial-intelligence-in-iran
12.
Bartol, C. R., and Bartol, A. M. (2021), “Criminal behavior,” A psychological approach (12th ed.). Pearson.
13.
Wortley, R., and Sidebottom, A. (2023), Environmental criminology and crime analysis (3rd ed.). Routledge.
14
. جهاننیوز. ) 1403 ( ،"روا نشناسی جنایی و فناوریهای نوین. جهاننیوز، "
15.
Angwin, J., Larson, J., Mattu, S., and Kirchner, L. (2016), “Machine bias,” ProPublica. https://www.propublica.org
16.
Hollin, C. R. (2013), “Psychology and crime,” An introduction to criminological psychology (2nd ed.). Routledge.
17.
Dixon, L., Li, J., Sorensen, J., Thain, N., and Vasserman, L. (2018), “Measuring and mitigating unintended bias in text classification,” Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society, pp 67-73. https://doi.org/10.1145/3278721.3278729
18.
Searle, J. R. (1980), “Minds, brains, and programs,” Behavioral and Brain Sciences, 3(3), 417-457. https://doi.org/10.1017/S0140525X00005756
19
. احمدی، س.، رضوی، م.، و کریمی، ع. ) 1399 ( ،" کاربرد هوش مصنو عی در تحلیل محتوای جلسات مشاوره
گروهی،" روانشناسی بالینی ، 12 ( 3 ،) 4۵ - . https://doi.org/10.22075/jcp.2020.123456۵۶
20
. رضایی، ع.، کریمی ، س.، و حسنی، م. ) 1401 ( ،" محدودیتهای دادههای متنی فارسی در آموزش مدلهای زبان ی،"
مجله مطالعات رسانهای، 1۶ ( 4 ،) 4۵ - . https://doi.org/10.30497/jms.2022.123456۵۸
21
. کریمی، ر. ) 1400 ( ،" محدودیتهای زیرساختهای دادهای در توسعه مدلهای زبانی فارسی،" فصلنامه فناوری
اطلاعات و ارتباطات ایران، 1۵ ( 4 ،) ۶۷ - . https://doi.org/10.22059/jitc.2021.123456۸0
22
. حسینی، م.، احمدی، ک.، و طاهری، س. ) 1401 ( ،" بررسی موانع بینرشت های در کاربرد هوش مصنو عی در
روا نشناسی ایران،" مجله روا نشناسی ایران، 3۷ ( 2 ،) ۸9 - 102. https://doi.org/10.32598/ijp.2022.123456
23.
Floridi, L., and Cowls, J. (2019), “A unified framework of five principles for AI in society,” Harvard Data Science Review, 1(1). https://doi.org/10.1162/99608f92.8cd550d1
24
. کریمی، ر.، حسینی، م.، و رضایی ، ع. ) 1401 ( ،" ملاحظات اخلاقی در استفاده از هوش مصنو عی در تحلیلهای
روا نشناختی،" فصلنامه اخلاق در علوم و فناوری، 1۷ ( 4 ،) 123 - . 13۵
https://doi.org/10.22091/jest.2022.123456
25.
Lee, J., Kim, H., and Park, S. (2022), “Simulating therapeutic conversations with language models: A tool for training psychologists,” Frontiers in Artificial Intelligence, 5, pp 123-134. https://doi.org/10.3389/frai.2022.789012
26
. احمدی، س. ) 1400 ( ،"چالشها ی تفسیر مدلهای زبان ی در تحلی ل دادههای متنی فارسی،" فصلنامه علوم داده،
۸ ( 3 ،) 4۵ - . https://doi.org/10.22098/jds.2021.123456۵۸
27
. حسینی، م.، پورمحمد، ا.، و طاهری، س. ) 1400 ( ،" استفاده از پردازش زبان طبیعی در تشخیص زودهنگام اضطراب
در پلتفرمهای مشاوره آنلاین،" مجله روا نپزشکی ایران، 3۶ ( 4 ،) 123 - 134. https://doi.org/10.32598/ijpcp.2021.123456
28
. محمدی، ن.، احمدی، ک.، و رضایی، م. ) 1400 ( ،"کاربرد مدلهای زبانی در شبیهسازی مشاوره تحص یلی: فرصتها
و چالشها،" فصلنامه روانشناسی کاربردی، 14 ( 3 ،) ۶۷ - . https://doi.org/10.22059/japr.2021.123456۸0
