TIL MODELLARI UCHUN O‘QUV MA’LUMOTLARIDA DISKRIMINATSIYANING NAMOYON BO‘LISHI VA UNING OQIBATLARINI TAHLIL QILISH

Rustamova Ruxsora Rasulbek qizi

Arxiv / №2 · 2026 / Maqola

ILMIY AXBOROT

TIL MODELLARI UCHUN O‘QUV MA’LUMOTLARIDA DISKRIMINATSIYANING NAMOYON BO‘LISHI VA UNING OQIBATLARINI TAHLIL QILISH

Annotatsiya

O'ZBEKCHA

Mazkur maqolada til modellari uchun ishlatiladigan trening ma’lumotlarida diskrimi-natsiyaning ko‘rinishlari va ularning oqibatlari tahlil qilinadi. Tadqiqot katta hajmdagi matnlar bazasida mavjud bo‘lishi mumkin bo‘lgan ijtimoiy tengsizliklar, stereotiplar va tizimli kamsitishlarni aks ettiruvchi og’ishlarni aniqlashga qaratilgan. Ish jarayonida bunday og‘ishlar til modellarini o‘qitish bosqichida qan-day shakllanishi va natijalarda qay darajada takrorlanishi yoki kuchayishi o‘rganiladi. Shuningdek, diskri-minatsiyaga moyil sun’iy intellekt tizimlarining axloqiy, ijtimoiy va texnologik oqibatlari yoritib beriladi. Maqola yakunida trening ma’lumotlarida diskriminatsiyani aniqlash, baholash va kamaytirish bo‘yicha yondashuvlar taklif etiladi.

Kalit so'zlar: diskriminatsiya, til modellari, o‘quv (trening) ma’lumotlari, sun’iy intellekt, algoritmik og‘ish (bias), ma’lumotlardagi xolislik muammosi, adolatli sun’iy intellekt, axloqiy masalalar, ijtimoiy tengsizlik, algoritmlar shaffofligi, mas’uliyatli AI, model barqarorligi.

РУССКИЙ

В данной статье анализируется проявление дискриминации в обучающих дан-ных языковых моделей и ее последствия для функционирования систем искусственного интеллек-та. Особое внимание уделяется выявлению предвзятостей, содержащихся в крупных текстовых корпусах, которые могут отражать социальное неравенство, стереотипы и структурную дис-криминацию. Исследуется, каким образом данные искажения формируются в процессе обучения и как они воспроизводятся или усиливаются в результатах работы языковых моделей. Также расс-матриваются этические, социальные и технологические последствия использования дискримина-ционных моделей. В заключение предлагаются подходы к выявлению, оценке и снижению дискри-минации в обучающих данных с целью разработки более справедливых и прозрачных систем искус-ственного интеллекта

Ключевые слова: дискриминация, языковые модели, обучающие данные, искусственный ин-теллект, алгоритмическая предвзятость, смещение данных, справедливость в ИИ, этические вы-зовы, социальное неравенство, прозрачность алгоритмов, ответственное использование ИИ, ус-тойчивость моделей.

ENGLISH

Diese Arbeit analysiert die Sichtbarkeit und Formen von Diskriminierung in Trainingsdaten für Sprachmodelle sowie deren potenzielle Auswirkungen auf die Ergebnisse künstlicher Intelligenz. Der Fokus liegt auf der Identifikation von Verzerrungen (Bias) in großen Textkorpora, die soziale Ungleichheiten, stereotype Darstellungen oder strukturelle Diskriminierung widerspiegeln können. Die Studie untersucht, wie solche Verzerrungen während des Trainingsprozesses entstehen und in der Modellleistung reproduziert oder verstärkt werden. Darüber hinaus werden die gesellschaftlichen, ethischen und technologischen Folgen diskriminierender Sprachmodelle diskutiert. Abschließend werden Ansätze zur Erkennung, Bewertung und Reduzierung von Diskriminierung in Trainingsdaten vorgestellt, um die Entwicklung fairerer und transparenterer KI-Systeme zu fördern.

Keywords: Diskriminierung, Sprachmodelle, Trainingsdaten, künstliche Intelligenz, algorith-mische Verzerrung (Bias), Datenvoreingenommenheit, Fairness in KI, ethische Herausforderungen, soziale Ungleichheit, Transparenz von Algorithmen, verantwortungsvolle KI, Modellrobustheit.

Maqola · PDF

PDF yuklab olish Yangi oynada ochish

Foydalanilgan adabiyotlar

Caliskan A., Bryson J.J., Narayanan A. (2017). Semantics derived automatically from language corpora contain human-like biases. Science, 356(6334), p. 183–186.
Bolukbasi T., Chang, K.-W., Zou J., Saligrama,V., Kalai A.T. (2016). Man is to computer programmer as woman is to homemaker? Debiasing word embeddings. Advances in Neural Information Processing Systems.
Noble S.U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press
Buolamwini J., Gebru T. (2018). Gender Shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research.
Bender E.M. Gebru T., McMillan-Major A., Shmitchell S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the ACM Conference on Fairness, Accountability, and Transparency.
Mitchell M., Wu S., Zaldivar A., et al. (2019). Model cards for model reporting. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency.

← Songa qaytish

[1] Caliskan A., Bryson J.J., Narayanan A. (2017). Semantics derived automatically from language corpora contain human-like biases. Science, 356(6334), p. 183–186.

[2] Bolukbasi T., Chang, K.-W., Zou J., Saligrama,V., Kalai A.T. (2016). Man is to computer programmer as woman is to homemaker? Debiasing word embeddings. Advances in Neural Information Processing Systems.

[3] Noble S.U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press

[4] Buolamwini J., Gebru T. (2018). Gender Shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research.

[5] Bender E.M. Gebru T., McMillan-Major A., Shmitchell S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the ACM Conference on Fairness, Accountability, and Transparency.

[6] Mitchell M., Wu S., Zaldivar A., et al. (2019). Model cards for model reporting. Proceedings of the ACM Conference on Fairness, Accountability, and Transparency.