اخطار مراقب تبعیض سنی هوش مصنوعی باشید!
گروه هوش مصنوعی: پژوهش های جدید حاکی از این هستند که هوش مصنوعی، سن را به عنوان یکی از راه های تبعیض به کار می برد و به همین دلیل، به وضع کردن قوانین و اصول اخلاقی نیاز دارد.
به گزارش گروه هوش مصنوعی به نقل از ایسنا و به نقل از فوربس، یکی از نادیده گرفته شده ترین و فراموش شده ترین انواع تبعیض، سن گرایی است. به قول "انجمن روانشناسی آمریکا"(APA)، تعداد آمریکایی های ۶۰ سال و بالاتر درحال افزایش است اما جامعه، جمعیت سالخورده را نمی پذیرد. علاوه بر این، انجمن روانشناسی آمریکا می گوید: افرادی که ۶۰ سال یا بالاتر هستند، چه در مبارزه با کلیشه های قدیمی و چه در کوشش برای به دست آوردن موقعیت برابر در محل کار، اغلب امکان دارد خویش را قربانی سن گرایی ببینند.
تعریف رسمی که توسط "سازمان جهانی بهداشت"(WHO) عرضه شده، اینست که پیری مواردی را شامل می شود. سن گرایی، به کلیشه ها(نحوه فکر کردن)، تعصب(چگونه احساس کردن) و تبعیض(نحوه رفتار ما) نسبت به دیگران یا خود برپایه سن اشاره دارد.
توجه داشته باشید که برپایه تعریف سازمان جهانی بهداشت، سن گرایی را میتوان در تمام سنین، چه جوان و چه مسن هدایت کرد. بعنوان مثال، به احتمال زیاد می توانید موقعیت هایی را به یاد بیاورید که در ارتباط با سن افراد جوان است؛ مانند اظهار نظر کردن در محل کار در خصوص این که یک کارمند تازه کار برای عرضه بینش های در ارتباط با کار، بسیار جوان است یا این که مدیران کارکشته مانند حامی آنها رفتار می کنند چونکه بی جهت تصور می کنند شخصی که جوان است، هوش محیطی کمی دارد.
به خاطر داشته باشید که سن گرایی را میتوان برای افراد جوان تر و اساسا هر شخصی در هر سنی اعمال کرد. با عنایت به آنچه گفته شد، بسیاری تمایل دارند که سن گرایی را بعنوان تمرکزی بر افراد مسن تعبیر کنند. بنابراین، در این گزارش به این نوع خاص از تبعیض سنی پرداخته می شود.
پژوهشگران تمایل دارند که تحقق سن گرایی را بعنوان پدیده ای که ارزش مطالعه و تحلیل متمایز دارد، بیان کنند. تحلیل های این ایده را میتوان در مقاله سال ۱۹۶۹ دکتر "رابرت باتلر"(Robert Butler)، با عنوان "سن گرایی: شکل دیگری از تعصب"(Age-Ism: Another Form of Bigotry) مطالعه کرد.
باتلر در این مقاله پیشگام در مورد سن گرایی، انواع مختلف تبعیض مانند نژاد، جنسیت و موارد مشابه را بازگو می کند و سپس، به بیان این نکته شگفت انگیز(در آن زمان) می پردازد: در هر حال، امکان دارد بزودی مجبور شویم شکلی از تعصب را که حالا مایل به نادیده گرفتن آن هستیم، جدی بگیریم. این شکل از تعصب، تبعیض سنی یا سن گرایی است که بعنوان تعصب یک گروه سنی نسبت به گروههای سنی دیگر تعریف می شود. اگر چنین تعصبی وجود داشته باشد، آیا امکان دارد بخصوص در آمریکا دیده نشود؟ جامعه ای که به صورت سنتی عمل گرایی، قدرت و نیروی جوان را بر تفکر، تأمل، تجربه و خرد سنی ارج نهاده است.
باتلر برای تاکید بر تأثیرات قوی و مخرب سن گرایی، این تأمل نسبتا خشن اما دقیق را در مورد این مورد بیان کرد و افزود: سن گرایی در اظهارات تمسخرآمیز در رابطه با انسان های قدیمی مسلک، در صدمه پذیری ویژه سالمندان در مقابل دزدی، تبعیض سنی در استخدام شدن مستقل از صلاحیت فردی و نابرابری های احتمالی در تخصیص بودجه تحقیقاتی آشکار می شود.
تصور نکنید که بعد از اظهارات باتلر در اواخر دهه ۱۹۶۰ و در دهه ۱۹۷۰ و بعد از آن، سن گرایی در جامعه به طرز جادویی از بین رفته است. این گونه نیست. با یک استدلال معقول میتوان ادعا کرد که ما هم اکنون هم به اندازه گذشته، سن گرایی داریم. حتی شاید به خاطر جمعیت بیشتر امروزی و افزایش جمعیت سالمندان، سن گرایی بیشتر هم شده باشد.
همچنین، میتوان مخالفت کرد که ما نسبت به گذشته آگاهی بیشتری در مورد سن گرایی داریم. بعلاوه قوانین و دستورالعمل های اخلاقی بیشتری در ارتباط با تشخیص سن گرایی و غلبه بر آن وجود دارد. نکته اصلی اینست که باآنکه امروزه سن گرایی یک عامل نگران کننده است اما هنوز این تمایل وجود دارد که سن گرایی را در ذهن نداشته باشیم یا باور نماییم که سن گرایی به اندازه سایر انواع تبعیض، جدی یا شایسته توجه نیست.
برای مقابله با سن گرایی چه کنیم؟
امکان دارد بگویید که سن گرایی نادیده گرفته می شود و فراموش می شود. همچنین، امکان دارد این پرسش ایجاد شود که در مورد سن گرایی چه نماییم.
طبق گفته سازمان جهانی بهداشت، ما باید به صورت کلی سه کار را برای مبارزه با سن گرایی انجام دهیم.
۱. اتخاذ سیاست ها و قوانین مناسب در مورد غلبه بر سن گرایی
۲. تلاشهای آموزشی و اطلاعاتی مناسب در مورد سن گرایی
۳. انجام دادن مداخلات بین نسلی در زمینه سن گرایی
بعنوان یک نسخه قابل نقل کردن از بیانیه رسمی سازمان جهانی بهداشت، این چیزی است که آنها سفارش می کنند: سیاست و قانون می تواند تبعیض و نابرابری برپایه سن را مورد توجه قرار دهد و از حقوق همه انسان ها در همه جا محافظت کند. فعالیتهای آموزشی می توانند با عرضه اطلاعات دقیق و مثال های ضدکلیشه ای، همدلی را بالا برند، باورهای غلط را در مورد گروههای سنی مختلف از بین ببرند و تعصبات را کاهش دهند. مداخلات بین نسلی که نسل های مختلف را گردهم می آورند، می توانند به کاهش تعصبات بین گروهی و کلیشه ها کمک کنند.
هوش مصنوعی
میتوان یک عامل دیگر را هم به ملاحظات در ارتباط با مقابله با سن گرایی اضافه کرد. این عامل، هوش مصنوعی است. هوش مصنوعی می تواند برای مقابله با سن گرایی و تبعیض برپایه سن استفاده گردد.
این مورد امکان دارد حیرت انگیز باشد. آیا هوش مصنوعی چیزی نیست که قهرمانانه به از بین بردن اقدامات تبعیض آمیز مانند موارد در ارتباط با سن گرایی کمک کند؟ مطمئنا به نظر می آید که هوش مصنوعی باید بیشتر از اینکه مانعی در کاهش سن گرایی باشد، نقش کمک کننده را ایفا کند اما معلوم شده است که هوش مصنوعی این پتانسیل را دارد که سن گرایی را حتی بدتر کند.
هوش مصنوعی می تواند نه تنها به افزایش سن گرایی منجر شود، بلکه امکان دارد ترویج و گسترش سن گرایی را هم افزایش دهد. در نوعی حالت استفاده دوگانه، هوش مصنوعی با گستردگی و فراگیر بودن محاسبات می تواند سن گرایی را بگونه ای افزایش دهد که پیش تر هیچگاه تصور نمی شد.
در مجموع، سن گرایی مبتنی بر هوش مصنوعی یا تقویت شده با هوش مصنوعی، ملاحظات اخلاقی و قانونی را در مورد هوش مصنوعی بالا می برد.
هوش مصنوعی اخلاقی و قانون هوش مصنوعی
دوره جدید هوش مصنوعی در ابتدا بعنوان "AI For Good" در نظر گرفته شد؛ به این مفهوم که ما می توانیم از هوش مصنوعی برای بهبود بشریت استفاده نماییم. بعد از AI For Good متوجه شدیم که ما در "AI For Bad" هم غوطه ور هستیم. این مورد شامل هوش مصنوعی می شود که تبعیض آمیز است و انتخاب های محاسباتی را با تعصبات ناروا می آمیزد.
هم اکنون، هیچ هوش مصنوعی وجود ندارد که دستخوش احساسات باشد اما نمی دانیم که آیا هوش مصنوعی دستخوش احساسات خواهد شد یا خیر.
هوش مصنوعی که این گزارش روی آن تمرکز دارد، هوش مصنوعی غیر حساسی است که امروز در اختیار داریم. اگر بخواهیم در مورد هوش مصنوعی حساس حدس بزنیم، این بحث می تواند در جهتی کاملا متفاوت پیش برود. این نوع هوش مصنوعی ظاهرا یک هوش مصنوعی باکیفیت انسانی خواهد بود. باید در نظر داشت که هوش مصنوعی حساس، معادل توانایی شناختی یک انسان است. علاوه بر این، از آنجائیکه برخی گمان می کنند که امکان دارد هوش مصنوعی فوق هوشمند داشته باشیم، میتوان تصور کرد که چنین هوش مصنوعی امکان دارد در نهایت از انسان ها باهوش تر باشد.
بهتر است که هوش مصنوعی محاسباتی غیر حساس امروزی را در نظر بگیریم. هوش مصنوعی امروزی به هیچ وجه قادر به فکر کردن در حد تفکر انسان نیست. وقتی با دستیار صوتی "الکسا"(Alexa) یا "سیری"(Siri) در تعامل قرار می گیرید، ظرفیت های مکالمه امکان دارد شبیه به ظرفیت های انسانی به نظر برسند اما حقیقت اینست که این ظرفیت ها محاسباتی و فاقد شناخت انسانی هستند. دوره جدید هوش مصنوعی، استفاده گسترده ای از یادگیری ماشینی و یادگیری عمیق کرده است که تطبیق الگوی محاسباتی را به کار می برند. این امر به عرضه سیستم های هوش مصنوعی انجامیده است که ظاهری شبیه به انسان دارند. در عین حال، هیچ هوش مصنوعی وجود ندارد که شباهتی به عقل سلیم داشته باشد و شگفتی های شناختی تفکر قوی انسانی را شامل شود.
مراقب انسان انگاری هوش مصنوعی امروزی باشید!
"ML/DL" نوعی تطبیق الگوی محاسباتی است. روش معمول اینست که شما داده ها را در مورد یک مبحث جمع آوری می کنید. سپس، داده ها را به مدلهای کامپیوتری ML/DL وارد می کنید. این مدلها به دنبال یافتن الگوهای ریاضی هستند. بعد از یافتن چنین الگوهایی، سیستم هوش مصنوعی هنگام مواجهه با داده های جدید از آنها استفاده خواهد نمود. بعد از عرضه کرده های جدید، الگوهای مبتنی بر داده های قدیمی برای عرضه یک تصمیم کنونی اعمال می شوند.
میتوان حدس زد که این راه به کجا می رود. اگر انسان هایی که تصمیم گیری ها را الگوپردازی می کنند، سوگیری های نامطلوب داشته باشند، این احتمال وجود دارد که داده ها هم سوگیری ها را به روش های ظریف اما قابل توجهی منعکس کنند. تطبیق الگوی محاسباتی یادگیری ماشینی یا یادگیری عمیق، به آسانی می کوشد تا داده ها را به صورت ریاضی تقلید کند. هیچ شباهتی با عقل سلیم یا سایر جنبه های حساس در مدل سازی مبتنی بر هوش مصنوعی به خودی خود وجود ندارد.
علاوه بر این، توسعه دهندگان هوش مصنوعی هم امکان دارد متوجه نباشند که چه اتفاقی درحال رخ دادن است. ریاضیات محرمانه در ML/DL امکان دارد کشف سوگیری های پنهان را هم اکنون دشوار کند. این امید و انتظار وجود دارد که توسعه دهندگان هوش مصنوعی، سوگیری های نهان را آزمایش نمایند اما این کار دشوارتر از آن چیزی است که به نظر می آید. یک احتمال قوی وجود دارد که حتی با آزمایش نسبتا گسترده هم سوگیری هایی در مدلهای تطبیق الگوی ML/DL وجود داشته باشند.
همه این موارد، نتایج قابل توجه اخلاق هوش مصنوعی را نشان می دهند و حاکی از اهمیت کوشش برای قانون گذاری در مورد هوش مصنوعی هستند.
علاوه بر به کارگیری اصول اخلاقی هوش مصنوعی به صورت کلی، یک پرسش هم در ارتباط با این مورد وجود دارد که آیا ما باید قوانینی را برای کنترل کاربردهای مختلف هوش مصنوعی داشته باشیم یا خیر. قوانین جدیدی در سطوح فدرال، ایالتی و محلی وضع می شوند که به محدوده و ماهیت چگونگی ابداع هوش مصنوعی مربوط هستند. کوشش برای تدوین و تصویب چنین قوانینی، تدریجی است. اخلاق هوش مصنوعی حداقل بعنوان یک توقفگاه عمل می کند و تقریبا تا اندازه ای مستقیما در آن قوانین جدید گنجانده می شود.
برخی قاطعانه استدلال می کنند که ما به قوانین جدیدی که هوش مصنوعی را پوشش می دهند، نیازی نداریم و قوانین موجود کافی هستند. آنها پیشبینی می کنند که اگر بعضی از این قوانین هوش مصنوعی را به اجرا بگذاریم، با مهار پیشرفت های هوش مصنوعی که مزایای اجتماعی قابل توجهی را عرضه می دهد، شانس طلایی را از بین خواهیم برد.
در اینجا یک لیست کلیدی سودمند در مورد معیارها یا خصوصیت های هوش مصنوعی اخلاقی در ارتباط با سیستم های هوش مصنوعی عرضه می شود.
شفافیت عدالت و انصاف عدم سوءاستفاده مسئولیت پذیری حریم شخصی سود رسانی آزادی و خودمختاری اعتماد پایداری همبستگی این اصول اخلاقی هوش مصنوعی مقرر است با جدیت مورد استفاده توسعه دهندگان هوش مصنوعی، افرادی که توسعه هوش مصنوعی را مدیریت می کنند و حتی افرادی که در نهایت با سیستم های هوش مصنوعی کار می کنند، قرار بگیرد.
همه ذینفعان در طول چرخه عمر توسعه و استفاده هوش مصنوعی، در محدوده رعایت هنجارهای تثبیت شده هوش مصنوعی اخلاقی در نظر گرفته می شوند. این نکته مهمی به حساب می آید چونکه فرض معمول اینست که فقط رمزنویس ها یا کسانی که هوش مصنوعی را برنامه ریزی می کنند، ملزم به رعایت مفاهیم اخلاقی هوش مصنوعی هستند. برای ابداع و به کار گرفتن هوش مصنوعی در یک روستا نیاز است که کل روستا با اصول اخلاقی هوش مصنوعی آشنا باشد و از آن پیروی کند.
منشور حقوق هوش مصنوعی
"منشور حقوق هوش مصنوعی"(AI Bill of Rights)، عنوان سند رسمی دولت آمریکا با عنوان "طرح اولیه منشور حقوق هوش مصنوعی: ساخت سیستم های خودکار برای مردم آمریکا" است که نتیجه تلاش یک ساله "دفتر سیاست علم و فناوری آمریکا"(OSTP) محسوب می شود. این سازمان، یک نهاد فدرال است که به رئیس جمهور آمریکا و اداره اجرایی این کشور در مورد جنبه های مختلف فنی، علمی و مهندسی اهمیت ملی مشاوره می دهد. از این نظر میتوان اظهار داشت که منشور حقوق هوش مصنوعی، سندی است که توسط کاخ سفید تایید شده است.
در منشور حقوق هوش مصنوعی، پنج دسته اصلی وجود دارد.
۱. سیستم های ایمن و کارآمد
۲. محافظت از تبعیض الگوریتمی
۳. حریم خصوصی داده ها
۴. تذکر و توضیح
۵. جایگزین های انسانی، توجه و بازگشت
سن گرایی هوش مصنوعی
پیش از این که به سن گرایی هوش مصنوعی بپردازیم، باید چند اخطار و نظر حیاتی را در نظر بگیریم. وقتی صحبت از سن گرایی هوش مصنوعی پیش می آید، گاهی اوقات این مورد به اشتباه تفسیر می شود تا ظاهرا نشان دهد که افراد برپایه سن خود نسبت به هوش مصنوعی، تبعیض آمیز برخورد می کنند. پژوهش های بسیاری در مورد این مورد انجام شده است که سن چگونه می تواند عاملی در انتخاب نحوه ی استفاده از هوش مصنوعی باشد و اینکه آیا تمایلی برای اعتماد کردن به هوش مصنوعی یا اعتقاد به استفاده از آن وجود دارد یا خیر.
ما می توانیم این تصور را که هوش مصنوعی دارای سوگیری های در رابطه با سن افراد است، بلافاصله کنار بگذاریم. حالا نیازی نیست در مورد این مورد صحبت نماییم که آیا هوش مصنوعی هوشیار، برپایه سن افراد نسبت به آنها تبعیض آمیز خواهد بود یا خیر. اگر ما به هوش مصنوعی دست پیدا نماییم، مطمئنا احتمال چنین ذهنیت تبعیض آمیزی وجود خواهد داشت اما اگر به هوش مصنوعی فوق هوشمند دست یابیم، همیشه این امید وجود دارد که از انسان ها باهوش تر باشد و هرگونه تبعیض را قاطعانه رد کند.
فرض کنید یک شرکت تصمیم می گیرد هوش مصنوعی را به کار بگیرد تا به استخدام کمک نماید. توسعه دهندگان هوش مصنوعی، از یادگیری ماشینی و یادگیری عمیق استفاده می نمایند. در این حالت، هزاران داده به دست آمده از پایگاه های داده موجود این شرکت برای آموزش هوش مصنوعی استفاده می شود. تمام استخدام های انجام شده در چهل سال قبل تاریخ شرکت، به ML/DL انتقال می یابند.
بعد از تنظیم ML/DL، حالا سیستمی برای مدیرانی که به دنبال استخدام هستند، در دسترس قرار دارد. مدیران، رزومه یک متقاضی را در هوش مصنوعی وارد می کنند. هوش مصنوعی، امتیازی را نشان داده است که می گوید آیا متقاضی برای استخدام شایسته است یا خیر. اگر امتیاز پایین باشد، مدیر مقرر است متقاضی را به صورت کامل رد کند. نیازی به تلف کردن زمان برای کسی نیست که هوش مصنوعی سفارش می کند ارزشی ندارد.
این کار در ابتدا یک روش عالی برای صرفه جویی در زمان شرکت به نظر می آید. دیگر نیازی به کاوش در لیست متقاضیانی وجود ندارد که هوش مصنوعی از نظر ریاضی و محاسباتی مشخص کرده که برای کار در شرکت قابل اعتماد نیستند. مدیران می توانند از زمان گرانبها و محدود خود فقط جهت بررسی دقیق متقاضیانی استفاده نمایند که امتیاز کافی را توسط هوش مصنوعی کسب کرده اند. روند استخدام، چندین برابر بهبود یافته است و همه خوشحال هستند.
بعد از ممیزی هوش مصنوعی، کاشف به عمل می آید که داده های قدیمی مورد استفاده برای آموزش هوش مصنوعی شامل استخدام افراد بالای ۶۰ سال نمی شوند. هر کسی که ۶۰ سال یا بالاتر باشد، به صورت مستقیم امتیاز بسیار پایینی می گیرد چونکه متقاضیان فقط برپایه فاکتور سن، توسط هوش مصنوعی بررسی شده اند.
بدین ترتیب، امکان دارد این شرکت در تمام مدت دارای یک گرایش نامشخص تبعیض سنی بوده باشد. این نکته در هیچ دفترچه استخدامی چاپ نشده و هیچکس این مورد را با صدای بلند هنگام انجام گرفتن فرایند استخدام نگفته است. داده های عرضه شده در نهایت این سوگیری را در سکوت نشان داده اند.
احتمال دیگری در خصوص اینکه سن گرایی آشکاری در جریان دارد هم نگران کننده است. از این نظر، هوش مصنوعی مبتنی بر همان سوگیری است و این کار را از راه تحلیل و بررسی داده های ریاضی انجام می دهد؛ نه به سبب یک هدف آشکار در برنامه نویسی.
مطمئنا این امکان وجود دارد که یک سیستم هوش مصنوعی به صورت هدفمند برای سن گرایی برنامه ریزی شود. بنابراین، حتی اگر از داده های قدیمی برای آموزش استفاده نشود، یک توسعه دهنده هوش مصنوعی می تواند رمزی را بنویسد که شامل جنبه های سنی باشد. توسعه دهندگان هوش مصنوعی امکان دارد آگاه باشند که این کار صورت می گیرد یا امکان دارد ندانند که شیوه رمزنویسی آنها عنصری از سن گرایی را به هوش مصنوعی وارد می نماید.
شرایطی وجود دارد که توسط تمایلات ضمنی یا آشکار شکل گرفته است.
هوش مصنوعی که برپایه داده های قدیمی است، بر سن گرایی ضمنی تمرکز دارد. هوش مصنوعی که برپایه داده های قدیمی است، بر سن گرایی آشکار تمرکز دارد. هوش مصنوعی که توسط توسعه دهندگان برنامه ریزی شده، شامل رمزگذاری سنی ضمنی است. هوش مصنوعی که توسط توسعه دهندگان برنامه ریزی شده، شامل رمزگذاری سنی آشکار است. انتظار برای ممیزی های هوش مصنوعی تا مدت ها بعد از ابداع یا استفاده از آن، برای یک شرکت مشکل ساز خواهد بود. زمانی که هوش مصنوعی مورد استفاده قرار بگیرد، متقاضی به سبب سن گرایی در هوش مصنوعی، مورد تبعیض قرار می گیرد. افرادی که مورد تبعیض قرار می گیرند، می توانند خسارات ناشی از سن گرایی را از شرکت طلب کنند.
شرکت هایی که در این حوزه همکاری نکنند، خویش را در معرض خطرات و بدهی های زیادی قرار می دهند. یکی از جنبه های آشکار اینست که شرکت بعد از انتشار اخباری در خصوص تبعیض آمیز بودن استخدام برپایه سن گرایی، متحمل ضرر و اعتبار خواهد شد. همچنین، این امر می تواند دعوای قضایی را به دنبال داشته باشد. دفاع از مواضع یا حل و فصل مشکلات بعدی، هزینه بر است.
قوانین موجود در کنار قوانین جدید متمرکز بر هوش مصنوعی می توانند به اجرا درآیند. امکان دارد ضد شرکت و مدیران آن، اتهاماتی مطرح شود. دولت می تواند از همه اهرم های نظارتی برای مقابله با هر شرکتی استفاده نماید که تبعیض سنی را با استفاده از هوش مصنوعی نشان داده است. این موارد هم اکنون، توجه عمومی زیادی را به خود جلب می کنند و بخصوص تیترها را به خود اختصاص می دهند.
خیلی از مدیران می گویند کاملا تعجب کرده اند از اینکه دیده اند هوش مصنوعی برای پیشگیری از استخدام افراد مسن تر ابداع شده است و از آن غافل هستند. آنها ادعا می کنند که برای اطمینان از عدم وجود چنین گرایش تبعیض آمیزی، کاملا به سازنده نرم افزار هوش مصنوعی اعتماد کرده اند و بعنوان مدیران پرمشغله، فرصتی جهت بررسی چنین جزئیاتی نداشته اند.
در هر حال، این بهانه نمی تواند تقصیر آنها را برطرف کند. اگر هوش مصنوعی مورد استفاده شما قرار گرفته باشد، به شکلی مالک آن هستید. اگر هوش مصنوعی قبل از ورود شما کار گذاشته شده باشد، همچنان مالک آن هستید. بهترین گزینه اینست که فورا ممیزی های هوش مصنوعی را انجام دهید.
جنبه دیگر شامل اطمینان از شناسایی و حذف هر گونه تعصبات در ارتباط با سن در هوش مصنوعی در آغاز کار است. آن دسته از مدیرانی که مجوز استفاده یا خرید هر نوع فناوری در رابطه با استخدام منابع انسانی را دارند، باید دقت لازم را در ابتدای کار داشته باشند.
سن گرایی هوش مصنوعی می تواند به طرق مختلف دیگری هم وجود داشته باشد. مثال ها تا اینجا در مورد استخدام بود. مشکل اینست که فرصت های زیادی برای اعمال سن گرایی در یک شرکت وجود دارد. هنگام انجام دادن تبلیغات، تصمیم گیری در مورد این که چه کسی آموزش یا سایر مزایای شرکت را دریافت کند و همینطور در مورد اخراج ها امکان دارد سن گرایی اعمال شود. هرگونه استفاده از هوش مصنوعی برای هر نوع عملکرد در رابطه با شغل، صدمه پذیر است و می تواند منبعی پنهان از سن گرایی هوش مصنوعی باشد.
سن گرایی هوش مصنوعی را میتوان پنهان کرد. در واقع، این یکی از موذیانه ترین جنبه های استفاده از هوش مصنوعی و پتانسیل سنی آن است. یک مدیر که درحال پیر شدن است، شاید در این دام گرفتار شود. سیستم هوش مصنوعی که یک جعبه سیاه است، می تواند این کار را انجام دهد و در عین حال، هیچکس از نحوه عملکرد آن آگاه نباشد.
یک پژوهش جدید که به مبحث سن گرایی هوش مصنوعی اختصاص داده شده است، سکوی پرش سودمند و مهمی را برای کسانی فراهم می آورد که علاقه مند به دنبال کردن این حوزه مورد نیاز و درحال رشد هستند. شکی وجود ندارد که سن گرایی هوش مصنوعی، روزبه روز بدتر می شود.
"جاستینا استیپینسکا"(Justyna Stypinska)، پژوهشگر این پروژه که با عنوان "عصر هوش مصنوعی: نقشه حیاتی برای مطالعه تبعیض سنی و محرومیت در جوامع دیجیتالی" در مجله "AI & Society" به چاپ رسیده است، اظهار داشت: سن گرایی هوش مصنوعی را میتوان بعنوان رویه ها و ایدئولوژی هایی تعریف کرد که در حوزه هوش مصنوعی فعالیت می نمایند. آنها علایق، تجربیات و نیازهای جمعیت مسن تر را حذف می کنند یا نادیده می گیرند. این موارد را میتوان در پنج دسته به هم پیوسته نشان داد. ۱. سوگیری های سنی در الگوریتم ها و مجموعه داده ها(سطح فنی) ۲. کلیشه های سنی، پیش داوری ها و ایدئولوژی های موثر در هوش مصنوعی(سطح فردی) ۳. نامرئی بودن سالمندی در گفتمان های در ارتباط با هوش مصنوعی(سطح گفتمانی) ۴. اثرات تبعیض آمیز استفاده از فناوری هوش مصنوعی در گروههای سنی مختلف(سطح گروهی) ۵. محرومیت بعنوان کاربران فناوری، خدمات و محصولات هوش مصنوعی(سطح کاربری).
این پنج دسته، چارچوبی کارآمد برای فکر کردن در مورد چگونگی بررسی و در نهایت مبارزه با سن گرایی هوش مصنوعی در همه انواع و اندازه ها هستند.
بعنوان مثال، در نظر بگیرید که هوش مصنوعی چگونه متناسب با نیازهای افراد مسن ابداع شده و در عین حال امکان دارد بدون درک درست از معنای همسویی با نیازهای مربوطه آنها کار کند. این مشکل هم اکنون در زمینه حمل و نقل اتفاق می افتد؛ مانند ظهور خودرو های خودران مبتنی بر هوش مصنوعی که افرادی را مد نظر قرار می دهند که به تسهیلات کمکی زندگی نیاز دارند. به همین ترتیب، مسکن هوشمند هم وجود دارد که متشکل از اقامتگاه هایی است که برای عرضه کمک های تخصصی به افراد مسن طراحی شده اند.
استیپینسکا افزود: استدلال من اینست که جمعیت مسن، یک گروه و دسته اجتماعی است که نه تنها از فرآیندهای توسعه و استقرار هوش مصنوعی حذف می شود، بلکه در بحث های پیرامون هوش مصنوعی اخلاقی، فراگیر و منصفانه هم نامرئی است.
استیپینسکا با تکیه بر این که سن گرایی ناگزیر بعنوان یک نگرانی برای همه ما در نظر گرفته می شود، اظهار داشت: سن گرایی تنها تعصبی است که ناگزیر بر همه افراد، صرف نظر از جنسیت، نژاد، یا خصوصیت های دیگر تاثیر می گذارد. به رغم ماهیت فراگیر آن، هنوز هم نوعی تبعیض است که به راحتی بعنوان تبعیض جنسی یا نژادپرستی شناخته نمی شود چونکه اغلب به روشی ظریف تر و در عین حال مخرب عمل می کند.
هدف گزارش این نیست که کسی را بترساند تا از سن گرایی هوش مصنوعی آگاه شود. حقیقت اینست که سن گرایی هوش مصنوعی، به صورت کلی ناشناخته است و ما باید هر کاری که می توانیم انجام دهیم تا این مورد را به یک مبحث اصلی تبدیل نماییم و روش های بی شماری را مورد بررسی قرار دهیم که هوش مصنوعی به واسطه آنها اقدامات تبعیض آمیز را انجام می دهد.
منبع: iagrp.ir
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب