منذ عقد، ظهرت مجموعة من المبلغين عن المخالفات الذين كشفوا عن تحيز في الخوارزميات. واليوم، بدأ جيل جديد من رواد الأعمال العمل بجد لمعالجة هذه المشكلة.
استلهمت ديفشي مهروترا، رائدة أعمال شابة، فكرة أداة تعتمد على الذكاء الاصطناعي تساعد المحامين العامين على التعامل مع الكم الهائل من الأدلة الرقمية، من ضمنها لقطات الكاميرا التي يجب أن يراجعوها، وفقا لـ “موقع أكسيوس”.
"جستس تيكست" هي أداة لتحليل تسجيلات الكاميرات الجسدية تسمح للمحامين بالبحث في نص ملفات القضايا ومطابقتها مع الفيديو.
تقول مهروترا إن الأداة تحدد تلقائيا اللحظات التي قد يكون المحامي مهتما بها، مثل قراءة حقوق شخص ما، أو وضعه تحت الاعتقال، أو طلب محامي.
يمكن لمحامي الدفاع إدخال نظريات الدفاع في الذكاء الاصطناعي، الذي سيراجع بعد ذلك الأدلة للعثور على اللحظات التي تدعم هذه النظريات أو تتعارض معها. ويستخدم نحو 65 مكتب محاماة عام في الولايات المتحدة هذه الأداة.
تقول مهروترا: "لا يزال من واجب المحامين التأكد من أن يحرصوا على الدقة المطلوبة منهم"، واستعمال “جستس تيكست” للمساعدة فقط، لأن الأداة صممت بطريقة تمنعها من تقديم إجابات قاطعة.
وفقا لمهروترا ، تواجه "جستس تيكست" تحديات معينة لأن الذكاء الاصطناعي يُعد موضوعا حساسا بحد ذاته لعديد من المجتمعات بسبب ما اشتهر به من تحيز ضدها، وتزداد حساسية هذا الموضوع بشكل خاص عندما يتعلق الأمر بالشرطة.
وتضيف أن التحدي الأكبر هو "السير على خط رفيع لبناء تكنولوجيا متجاوبة وأخلاقية، وبناء الثقة والتقبل".
مهروترا متفائلة بقدرات "جستس تيكست" في المساعدة على حل بعض المشكلات الصعبة في النظام الحالي للشرطة. لكنها حذرة من العواقب غير المقصودة والأضرار المحتملة للذكاء الاصطناعي، خاصة عند التعامل مع البيانات الحساسة.