توقف استفاده از هوش مصنوعی برای تبعیض در اجاره مسکن

شرکت SafeRent، که از یک ابزار هوش مصنوعی برای ارزیابی مستاجران استفاده می‌کرد، پس از مواجهه با اتهام تبعیض، مجبور به توقف این روش شده است. به گزارش سرویس اخبار فناوری رسانه تکنولوژی تکنا، یک دادگاه در ماساچوست به این نتیجه رسید که سیستم امتیازدهی SafeRent به طور نامناسبی علیه افرادی که از کوپن‌های مسکن […]


شرکت SafeRent، که از یک ابزار هوش مصنوعی برای ارزیابی مستاجران استفاده می‌کرد، پس از مواجهه با اتهام تبعیض، مجبور به توقف این روش شده است.

به گزارش سرویس اخبار فناوری رسانه تکنولوژی تکنا، یک دادگاه در ماساچوست به این نتیجه رسید که سیستم امتیازدهی SafeRent به طور نامناسبی علیه افرادی که از کوپن‌های مسکن استفاده می‌کنند، به ویژه افراد سیاه‌پوست و اسپانیایی‌تبار، تبعیض قائل می‌شود. این سیستم با استفاده از عوامل مختلفی مانند سابقه اعتباری و بدهی‌ها، امتیازی به هر متقاضی می‌داد که مالکان برای تصمیم‌گیری در مورد اجاره دادن یا ندادن به آن استناد می‌کردند.

اما بررسی‌ها نشان داد که این سیستم به طور سیستماتیک به افراد دارای کوپن مسکن امتیاز پایین‌تری می‌دهد و این امر باعث می‌شود که آن‌ها شانس کمتری برای اجاره مسکن داشته باشند. همچنین، شفافیت کافی در مورد نحوه محاسبه این امتیازات وجود نداشت. در پی این شکایت، شرکت SafeRent مجبور شد تا توافق کند که دیگر از این سیستم امتیازدهی برای متقاضیان کوپن مسکن استفاده نکند. این شرکت همچنین باید جریمه‌ای به مبلغ ۲.۳ میلیون دلار بپردازد.

SafeRent جدیدترین نرم افزار مدیریت اموال مبتنی بر الگوریتم است که با پیگرد قانونی روبرو می شود. در ماه اوت، وزارت دادگستری از RealPage به دلیل ادعای اینکه نرم افزار قیمت گذاری الگوریتمی آن باعث افزایش اجاره بها شده است، شکایت کرد.



Source link