De nombreuses prédictions que nous avons vues autour de l'intelligence artificielle (IA) pour 2019 penchaient vers un extrême ou l'autre - allant de la notion que l'IA ne sera plus une chose jusqu'à l'idée qu'elle réalisera son véritable potentiel et changera complètement la façon dont les industries fonctionnent à un niveau élémentaire. La progression de l'IA sera un processus graduel et il est irréaliste de penser que le monde l'abandonnera soudainement complètement ou accélérera de façon exponentielle son développement dans ce domaine.
Mais dans l'industrie de la sécurité, nous avons encore constaté des progrès autour de l'IA, car nous nous sommes améliorés dans l'utilisation de la technologie d'apprentissage de la machine pour identifier et reconnaître les comportements afin d'identifier des anomalies de sécurité. Dans la plupart des cas, la technologie de sécurité peut maintenant corréler le comportement anormal avec les renseignements sur les menaces et les données contextuelles provenant d'autres systèmes. Elle peut également tirer parti des actions d'enquête automatisées pour fournir à un analyste une image solide de quelque chose qui est mauvais ou non avec une intervention humaine minimale.
En fait, l'intelligence artificielle représente la majeure partie du travail d'un analyste de la sécurité. Cependant, en tant que société, nous n'avons pas encore assez confiance en l'IA pour la faire passer au niveau suivant - qui serait de faire entièrement confiance à l'IA pour prendre des mesures correctives à l'égard des anomalies qu'elle a identifiées. Ces mesures nécessitent encore une intervention et un jugement humains. Et je pense que le cas d'utilisation de la sécurité est associé à l'industrie technologique et à l'IA dans son ensemble.
Malgré cela, nous pouvons nous attendre à voir des développements de l'IA tout au long de 2020 - tant pour les activités anodines que malveillantes. Quelle est l'une des possibilités ? Ma prédiction pour 2020 est qu'un spécialiste manipulera l'IA pour mettre injustement un innocent en prison.
Parce que les gens forment l'IA, l'IA adopte les mêmes préjugés humains que nous pensions qu'elle ignorerait. Cependant, cela n'a pas empêché le système juridique de l'employer. L'année dernière, un juge a ordonné à Amazon de remettre les enregistrements d'Echo dans une affaire de double meurtre. Avec une IA déjà prête à prendre des décisions biaisées sur la base des informations qu'elle reçoit, un employé pourrait exploiter cela pour lui fournir de fausses informations afin d'impliquer plus directement quelqu'un dans un crime. En rendant l'IA plus humaine, la probabilité qu'elle commette des erreurs augmentera.
Nous verrons certainement des possibilités d'étendre les capacités de l'IA, mais nous ne devrions pas nous attendre à voir les progrès nécessaires pour réaliser ce que les gens ont tendance à imaginer lorsqu'ils pensent à une véritable IA - des technologies qui ne nécessitent aucune intervention humaine pour obtenir des résultats significatifs.
Par James Carder est CSO et vice-président de LogRhythm Labs.
Chez LogRhythm, il développe et maintient le modèle de gouvernance de la sécurité et les stratégies de risque de l'entreprise, protège la confidentialité, l'intégrité et la disponibilité des actifs informationnels, supervise la gestion des menaces et des vulnérabilités ainsi que le centre des opérations de sécurité (SOC). Il dirige également la mission et la vision stratégique des Laboratoires LogRhythm pour l'intelligence des données, la menace et la conformité des machines.
source :
https://betanews.com/2019/12/23/ai-will-create-larger-issues-in-2020/