Η Πλατφόρμα επιστημονικών δεδομένων Kaggle θέλοντας να προετοιμάσει τα συστήματα AI (τεχνητής νοημοσύνης) για πιθανές κυβερνο-επιθέσεις, τα έβαλε να ανταγωνιστούν μεταξύ τους στο πλαίσιο του διαγωνισμού «Adversarial Attacks and Defenses (Ανταγωνιστικές Επιθέσεις και Προστασία).
Τον διαγωνισμό διοργανώνει το Google Brain ο οποίος από φέτος θα αποτελεί μέρος του διαγωνισμού του Ιδρύματος Συστημάτων Επεξεργασίας Νευρικών Πληροφοριών (NIPS) του Ιδρύματος.
Ο διαγωνισμός θα περιλαμβάνει τρεις προκλήσεις. Στην πρώτη (μη στοχευμένη ανταγωνιστική επίθεση) αλγορίθμοι θα «μπερδέψουν» τα ΑΙ έτσι ώστε να σταματήσουν να λειτουργούν σωστά. Στη δεύτερη πρόκληση, (στοχευμένη αντίπαλη επίθεση) ένα AI θα αναγκάσει ένα άλλο, να ταξινομήσει λανθασμένα τα δεδομένα. Η τρίτη πρόκληση (άμυνα κατά των κατά των ανταγωνιστικών επιθέσεων), επικεντρώνεται στην ενίσχυση της άμυνας ενός έξυπνου συστήματος.
«Η ασφάλεια των υπολογιστών σίγουρα οδεύει προς την εκμάθηση μηχανών», δήλωσε ο ερευνητής του Brain Ian Goodfellow στο MIT Technology Review. «Οι κακοί θα χρησιμοποιούν τη μηχανική μάθηση για να αυτοματοποιήσουν τις επιθέσεις τους κι εμείς θα τη χρησιμοποιήσουμε για να προστατευτούμε.
Το γεγονός ότι το AI δεν είναι προβλέψιμο, ανησυχεί κάποιους, όπως είναι ο επιχειρηματίας Έλον Μασκ, που υποστηρίζουν πως η τεχνολογία μπορεί να αποδειχθεί κακόβουλη στο μέλλον και ότι η ανάπτυξη του ΑΙ πρέπει να παρακολουθείται και να ρυθμίζεται προσεκτικά.
Για αυτό τον λόγο, το Ινστιτούτο Ηλεκτρολόγων και Ηλεκτρονικών Μηχανικών (Institute of Electrical and Electronics Engineers) έχει ήδη δημιουργήσει κατευθυντήριες γραμμές σχετικά με τη δεοντολογία στον χώρο του ΑΙ και ο διαγωνισμός του Kaggle θα μπορούσε να αναδείξει τις ευπάθειες της τεχνητής νοημοσύνης που θα πρέπει να ληφθούν υπόψη στο άμεσο μέλλον.