Αλγοριθμική προκατάληψη

🔍 Ορισμός:
Η Αλγοριθμική προκατάληψη (algorithmic bias) είναι η συστηματική στρέβλωση ή μεροληψία που εμφανίζεται στα αποτελέσματα ενός αλγορίθμου, όταν τα δεδομένα εκπαίδευσης ή ο τρόπος σχεδιασμού του αντικατοπτρίζουν –συνειδητά ή ασυνείδητα– κοινωνικές, πολιτισμικές ή ιστορικές προκαταλήψεις, με αποτέλεσμα ο αλγόριθμος να λαμβάνει αποφάσεις που ευνοούν ή αδικούν συγκεκριμένες ομάδες ανθρώπων.

📘 Παράδειγμα:
Αν ένας αλγόριθμος αξιολόγησης υποψηφίων για πρόσληψη έχει εκπαιδευτεί κυρίως με δεδομένα από άνδρες, μπορεί –χωρίς πρόθεση– να απορρίπτει πιο συχνά γυναίκες με παρόμοια προσόντα, αναπαράγοντας έτσι υφιστάμενες κοινωνικές ανισότητες.