Le 18 février, les dirigeants de l'entreprise technologique Cerence ont sonné la cloche d'ouverture du Nasdaq, puis sont allés à une réunion avec leurs investisseurs et les représentants de certains des plus grands constructeurs automobiles du monde. Pendant plusieurs heures, ils ont présenté une stratégie visant à doubler le chiffre d'affaires de l'entreprise en cinq ans : Enregistrer chaque mouvement, chaque regard, chaque sourire, chaque froncement de sourcils et de sourcils des conducteurs du monde entier - puis vendre les données obtenues pour réaliser un bénéfice.
Au cours du siècle dernier, la voiture a été consacrée comme la quintessence de l'Americana, un symbole de liberté et d'expression. C'est un espace où les gens partagent leurs premiers baisers, pleurent après le travail, et apaisent les bébés agités pour les endormir, réconfortés par un sentiment d'autonomie et de contrôle. Mais comme l'a révélé la présentation de Cerence, le deuxième siècle de la voiture sera très différent.
L'entreprise de Burlington, Massachusetts, est loin d'être un nom connu, mais sa technologie - microphones, assistants virtuels et caméras de surveillance du regard - est déjà installée dans plus de 325 millions de véhicules, à partir desquels elle télécharge plus de 100 millions de transactions de données dans le nuage chaque mois, selon les documents de ses investisseurs. Très bientôt, a annoncé Cerence, elle prévoit d'approfondir cette opération d'exploration de données avec des caméras en habitacle liées à des algorithmes d'IA de détection des émotions qui surveillent les changements infimes d'expression faciale afin de déterminer l'état émotionnel d'une personne à un moment donné.
"Ce sont des données qui, je pense, représentent le potentiel inexploité que Cerence a pour l'avenir", a déclaré aux investisseurs Prateek Kathpal, le directeur de la technologie de la société. "Ce que nous cherchons à faire, c'est de partager ces données avec les constructeurs et de les aider à les monétiser".
Au cours des deux prochaines années, des entreprises comme Cerence, Affectiva, Xperi et Eyeris prévoient de lancer des systèmes de détection d'émotions et d'objets pour les voitures en partenariat avec de nombreux grands constructeurs automobiles, selon des documents de l'entreprise et des entretiens avec des dirigeants. Leurs plans sont soutenus par une loi de l'Union européenne exigeant que toutes les nouvelles voitures soient équipées d'un système de surveillance du conducteur au moins rudimentaire d'ici la mi-2022, et par un projet de loi similaire récemment présenté au Sénat américain.
Pour le public et les législateurs, les constructeurs automobiles commercialisent ces systèmes en tant que dispositifs de sécurité. Si une voiture peut détecter qu'un conducteur est en colère ou qu'il regarde son téléphone juste avant un accident, ces sociétés estiment que l'IA embarquée peut être en mesure de donner une alerte la prochaine fois qu'elle détecte un comportement similaire. Ou, si elle peut déterminer comment un enfant est positionné sur le siège arrière, la voiture pourrait déployer les airbags plus efficacement en cas de collision.
Au cours du siècle dernier, la voiture a été consacrée comme la quintessence de l'Americana, un symbole de liberté et d'expression. C'est un espace où les gens partagent leurs premiers baisers, pleurent après le travail, et apaisent les bébés agités pour les endormir, réconfortés par un sentiment d'autonomie et de contrôle. Mais comme l'a révélé la présentation de Cerence, le deuxième siècle de la voiture sera très différent.
L'entreprise de Burlington, Massachusetts, est loin d'être un nom connu, mais sa technologie - microphones, assistants virtuels et caméras de surveillance du regard - est déjà installée dans plus de 325 millions de véhicules, à partir desquels elle télécharge plus de 100 millions de transactions de données dans le nuage chaque mois, selon les documents de ses investisseurs. Très bientôt, a annoncé Cerence, elle prévoit d'approfondir cette opération d'exploration de données avec des caméras en habitacle liées à des algorithmes d'IA de détection des émotions qui surveillent les changements infimes d'expression faciale afin de déterminer l'état émotionnel d'une personne à un moment donné.
"Ce sont des données qui, je pense, représentent le potentiel inexploité que Cerence a pour l'avenir", a déclaré aux investisseurs Prateek Kathpal, le directeur de la technologie de la société. "Ce que nous cherchons à faire, c'est de partager ces données avec les constructeurs et de les aider à les monétiser".
Au cours des deux prochaines années, des entreprises comme Cerence, Affectiva, Xperi et Eyeris prévoient de lancer des systèmes de détection d'émotions et d'objets pour les voitures en partenariat avec de nombreux grands constructeurs automobiles, selon des documents de l'entreprise et des entretiens avec des dirigeants. Leurs plans sont soutenus par une loi de l'Union européenne exigeant que toutes les nouvelles voitures soient équipées d'un système de surveillance du conducteur au moins rudimentaire d'ici la mi-2022, et par un projet de loi similaire récemment présenté au Sénat américain.
Pour le public et les législateurs, les constructeurs automobiles commercialisent ces systèmes en tant que dispositifs de sécurité. Si une voiture peut détecter qu'un conducteur est en colère ou qu'il regarde son téléphone juste avant un accident, ces sociétés estiment que l'IA embarquée peut être en mesure de donner une alerte la prochaine fois qu'elle détecte un comportement similaire. Ou, si elle peut déterminer comment un enfant est positionné sur le siège arrière, la voiture pourrait déployer les airbags plus efficacement en cas de collision.
Mais la sécurité n'est qu'un des attraits de la surveillance en cabine. Les systèmes offrent également un potentiel énorme pour récolter des données comportementales comme celles que Google, Facebook et d'autres capitalistes de la surveillance utilisent pour cibler les publicités et influencer les habitudes d'achat.
Les constructeurs automobiles et les annonceurs ont pris "conscience" qu'à mesure que les voitures deviennent plus autonomes et équipées d'écrans, "de nombreux passagers de votre véhicule constituent une sorte de public captif dans un contexte de divertissement", a déclaré Gabi Zijderveld, directrice du marketing d'Affectiva, à Motherboard.
Affectiva s'est détachée du Media Lab du MIT en 2009 et a été une pionnière dans le domaine souvent controversé de l'intelligence artificielle pour la détection des émotions. La société a ses racines dans le marketing et l'analyse des consommateurs et a été exploitée par certaines des plus grandes marques du pays pour mesurer les réactions des groupes de discussion aux publicités et aux divertissements. Mais au cours des quatre dernières années, elle a consacré une grande partie de son attention au développement de la surveillance en habitacle et a travaillé avec des constructeurs automobiles tels que Kia, BMW et Porsche. Elle a également présenté sa technologie aux sociétés de covoiturage, suggérant dans une brochure de présentation du produit que les passagers pourraient accepter d'être enregistrés et de voir leurs émotions analysées dans les véhicules en échange de voyages gratuits ou à prix réduit. "Ces données sont extrêmement précieuses, du point de vue de la monétisation, pour les annonceurs", a déclaré M. Zijderveld.
Les concurrents Xperi et Eyeris cherchent également des moyens de capitaliser, ou d'aider les constructeurs automobiles à capitaliser, sur les données recueillies par leurs produits.
Jeff Jury, le directeur général du groupe automobile Xperi, a déclaré à Motherboard que le système de surveillance dans l'habitacle de l'entreprise est une première en matière de sécurité, mais a ajouté que Xperi explore les moyens de combiner le système avec le moteur de recommandation de divertissement sophistiqué qu'elle a récemment acquis grâce à une fusion avec TiVo.
Le PDG d'Eyeris, Modar Alaoui, a également déclaré à Motherboard que si la technologie de son entreprise est principalement conçue pour améliorer la sécurité, "nous prévoyons qu'à un moment donné, les constructeurs automobiles essaieront d'exploiter les données pour plusieurs cas d'utilisation, que ce soit pour la publicité ou les primes d'assurance".
Les constructeurs automobiles et les annonceurs ont pris "conscience" qu'à mesure que les voitures deviennent plus autonomes et équipées d'écrans, "de nombreux passagers de votre véhicule constituent une sorte de public captif dans un contexte de divertissement", a déclaré Gabi Zijderveld, directrice du marketing d'Affectiva, à Motherboard.
Affectiva s'est détachée du Media Lab du MIT en 2009 et a été une pionnière dans le domaine souvent controversé de l'intelligence artificielle pour la détection des émotions. La société a ses racines dans le marketing et l'analyse des consommateurs et a été exploitée par certaines des plus grandes marques du pays pour mesurer les réactions des groupes de discussion aux publicités et aux divertissements. Mais au cours des quatre dernières années, elle a consacré une grande partie de son attention au développement de la surveillance en habitacle et a travaillé avec des constructeurs automobiles tels que Kia, BMW et Porsche. Elle a également présenté sa technologie aux sociétés de covoiturage, suggérant dans une brochure de présentation du produit que les passagers pourraient accepter d'être enregistrés et de voir leurs émotions analysées dans les véhicules en échange de voyages gratuits ou à prix réduit. "Ces données sont extrêmement précieuses, du point de vue de la monétisation, pour les annonceurs", a déclaré M. Zijderveld.
Les concurrents Xperi et Eyeris cherchent également des moyens de capitaliser, ou d'aider les constructeurs automobiles à capitaliser, sur les données recueillies par leurs produits.
Jeff Jury, le directeur général du groupe automobile Xperi, a déclaré à Motherboard que le système de surveillance dans l'habitacle de l'entreprise est une première en matière de sécurité, mais a ajouté que Xperi explore les moyens de combiner le système avec le moteur de recommandation de divertissement sophistiqué qu'elle a récemment acquis grâce à une fusion avec TiVo.
Le PDG d'Eyeris, Modar Alaoui, a également déclaré à Motherboard que si la technologie de son entreprise est principalement conçue pour améliorer la sécurité, "nous prévoyons qu'à un moment donné, les constructeurs automobiles essaieront d'exploiter les données pour plusieurs cas d'utilisation, que ce soit pour la publicité ou les primes d'assurance".
Informer et consentir
Les responsables de Cerence, Affectiva, Xperi et Eyeris ont tous déclaré à Motherboard que leurs entreprises créent simplement des produits avec de nombreuses fonctions possibles. C'est aux constructeurs automobiles, ont-ils dit, de décider comment les systèmes seront utilisés, quelles données seront collectées, comment ces données seront traitées en interne, à qui elles peuvent être vendues, et s'il faut partager certaines de ces informations avec le client.
À l'exception de Volvo, tous les constructeurs automobiles contactés pour ce sujet - dont GM, Toyota, Honda, Volkswagen et Kia - n'ont pas répondu aux demandes de commentaires ou ont refusé de répondre aux questions sur la manière dont ils informeront les conducteurs des données collectées sur leurs véhicules. Volvo ne prévoit pas actuellement d'intégrer des systèmes qui surveillent les passagers ou utilisent la reconnaissance des émotions, a déclaré un responsable de la compagnie à Motherboard.
Les régulateurs de l'Union européenne se sont préparés à la probabilité que les constructeurs automobiles veuillent utiliser les systèmes de surveillance dans l'habitacle comme aspirateurs de données.
En janvier, le Conseil européen de la protection des données a publié des lignes directrices régissant l'utilisation des données provenant de voitures connectées. Elles stipulent, entre autres restrictions, qu'aucune information permettant d'identifier une personne ne peut quitter la voiture sans le consentement explicite du conducteur ou du passager, et qu'une voiture ne peut pas collecter plus de données que celles nécessaires au fonctionnement de son système de sécurité ou à l'exécution d'une autre tâche pour laquelle le propriétaire a donné un consentement spécifique. En conséquence, il s'avère très difficile pour les constructeurs automobiles de déployer dans l'UE le type de systèmes de surveillance dans l'habitacle qu'ils développent pour les marchés américain et asiatique, a déclaré à Motherboard Anne-Gabrielle Haie, avocate belge spécialisée dans la protection des données au sein de DLA Piper.
Les États-Unis, c'est une autre affaire. Plusieurs lois, allant du Fair Credit Reporting Act (FCRA) à la Federal Trade Commission Act (FTCA), prévoient des mécanismes limités pour empêcher les entreprises d'utiliser abusivement et de manière répétée le type de données qu'un système de surveillance dans l'habitacle va recueillir. Par exemple, en vertu du FCRA, un constructeur automobile devrait informer ses clients avant de fournir certains types d'informations à l'agence d'assurance du conducteur.
Les responsables de Cerence, Affectiva, Xperi et Eyeris ont tous déclaré à Motherboard que leurs entreprises créent simplement des produits avec de nombreuses fonctions possibles. C'est aux constructeurs automobiles, ont-ils dit, de décider comment les systèmes seront utilisés, quelles données seront collectées, comment ces données seront traitées en interne, à qui elles peuvent être vendues, et s'il faut partager certaines de ces informations avec le client.
À l'exception de Volvo, tous les constructeurs automobiles contactés pour ce sujet - dont GM, Toyota, Honda, Volkswagen et Kia - n'ont pas répondu aux demandes de commentaires ou ont refusé de répondre aux questions sur la manière dont ils informeront les conducteurs des données collectées sur leurs véhicules. Volvo ne prévoit pas actuellement d'intégrer des systèmes qui surveillent les passagers ou utilisent la reconnaissance des émotions, a déclaré un responsable de la compagnie à Motherboard.
Les régulateurs de l'Union européenne se sont préparés à la probabilité que les constructeurs automobiles veuillent utiliser les systèmes de surveillance dans l'habitacle comme aspirateurs de données.
En janvier, le Conseil européen de la protection des données a publié des lignes directrices régissant l'utilisation des données provenant de voitures connectées. Elles stipulent, entre autres restrictions, qu'aucune information permettant d'identifier une personne ne peut quitter la voiture sans le consentement explicite du conducteur ou du passager, et qu'une voiture ne peut pas collecter plus de données que celles nécessaires au fonctionnement de son système de sécurité ou à l'exécution d'une autre tâche pour laquelle le propriétaire a donné un consentement spécifique. En conséquence, il s'avère très difficile pour les constructeurs automobiles de déployer dans l'UE le type de systèmes de surveillance dans l'habitacle qu'ils développent pour les marchés américain et asiatique, a déclaré à Motherboard Anne-Gabrielle Haie, avocate belge spécialisée dans la protection des données au sein de DLA Piper.
Les États-Unis, c'est une autre affaire. Plusieurs lois, allant du Fair Credit Reporting Act (FCRA) à la Federal Trade Commission Act (FTCA), prévoient des mécanismes limités pour empêcher les entreprises d'utiliser abusivement et de manière répétée le type de données qu'un système de surveillance dans l'habitacle va recueillir. Par exemple, en vertu du FCRA, un constructeur automobile devrait informer ses clients avant de fournir certains types d'informations à l'agence d'assurance du conducteur.
Mais les lois actuellement en vigueur sont insuffisantes pour protéger les consommateurs contre la technologie qui sortira bientôt des chaînes de production, a déclaré à Motherboard Maneesha Mithal, directrice associée de la division de la protection de la vie privée et de l'identité de la FTC. "C'est en partie la raison pour laquelle la majorité des commissaires de la FTC ont recommandé la promulgation d'une législation fédérale sur la vie privée qui établirait les règles de conduite dans ce domaine", a-t-elle déclaré.
Les systèmes de surveillance dans l'habitacle seront également très attrayants pour la police qui, comme l'a expliqué Forbes en détail, demande depuis des années des données sur les voitures connectées. Aux États-Unis, rien n'empêche la police d'aller chercher ces données, alors que les règles de l'UE accordent une attention particulière aux circonstances dans lesquelles les forces de l'ordre peuvent accéder à des données susceptibles de prouver une activité criminelle, comme les excès de vitesse.
La Cour suprême de Géorgie a récemment décidé que la police doit avoir un mandat avant d'accéder aux données des voitures, mais la jurisprudence dans ce domaine spécifique n'en est qu'à ses débuts, a déclaré à Motherboard Chelsey Colbert, conseillère politique pour les données de mobilité et de localisation au Forum sur l'avenir de la vie privée. "Si les constructeurs automobiles s'inquiètent de l'accès des forces de l'ordre, ils devraient prendre en compte la protection de la vie privée et la sécurité dès la conception, a-t-elle déclaré. "Par exemple, ils pourraient utiliser des technologies qui ne collectent ni ne stockent de données identifiables".
Les systèmes de surveillance dans l'habitacle seront également très attrayants pour la police qui, comme l'a expliqué Forbes en détail, demande depuis des années des données sur les voitures connectées. Aux États-Unis, rien n'empêche la police d'aller chercher ces données, alors que les règles de l'UE accordent une attention particulière aux circonstances dans lesquelles les forces de l'ordre peuvent accéder à des données susceptibles de prouver une activité criminelle, comme les excès de vitesse.
La Cour suprême de Géorgie a récemment décidé que la police doit avoir un mandat avant d'accéder aux données des voitures, mais la jurisprudence dans ce domaine spécifique n'en est qu'à ses débuts, a déclaré à Motherboard Chelsey Colbert, conseillère politique pour les données de mobilité et de localisation au Forum sur l'avenir de la vie privée. "Si les constructeurs automobiles s'inquiètent de l'accès des forces de l'ordre, ils devraient prendre en compte la protection de la vie privée et la sécurité dès la conception, a-t-elle déclaré. "Par exemple, ils pourraient utiliser des technologies qui ne collectent ni ne stockent de données identifiables".
À la limite de la vie privée
Vingt des plus grands constructeurs automobiles ont promis de réguler leurs pratiques en matière de protection de la vie privée pour les voitures connectées et, en 2014, ont signé un ensemble de principes inapplicables créés par l'industrie. Il est toutefois largement prouvé que ces lignes directrices ne les empêcheront pas de tirer profit des données des conducteurs. GM, par exemple, est l'un des signataires. Mais en 2018, le Detroit Free Press a révélé que la société avait recueilli des données sur les habitudes d'écoute de la radio de plus de 90 000 conducteurs pour tenter de trouver des corrélations entre ce que les gens écoutaient dans leur voiture et les produits qu'ils achetaient.
Affectiva, Xperi et Eyeris affirment que leurs systèmes sont tous conçus pour que les données les plus sensibles, telles que les enregistrements vidéo réels des passagers, puissent être traitées dans la voiture - ce qu'on appelle le "edge processing" - plutôt que d'être téléchargées dans un nuage contrôlé par un constructeur automobile ou une société de covoiturage.
Mais comme les constructeurs automobiles fixent leurs propres règles, ils pourraient, bien sûr, décider qu'ils veulent ces données après tout. Cerence se vante de la quantité de données qu'elle transfère chaque mois dans le nuage à partir des véhicules, ce qui laisse à penser que ses partenaires - qui, outre les constructeurs automobiles, comprennent Microsoft, LG et un certain nombre d'autres entreprises technologiques - ne sont guère intéressés par le traitement de données à des fins de protection de la vie privée.
Vingt des plus grands constructeurs automobiles ont promis de réguler leurs pratiques en matière de protection de la vie privée pour les voitures connectées et, en 2014, ont signé un ensemble de principes inapplicables créés par l'industrie. Il est toutefois largement prouvé que ces lignes directrices ne les empêcheront pas de tirer profit des données des conducteurs. GM, par exemple, est l'un des signataires. Mais en 2018, le Detroit Free Press a révélé que la société avait recueilli des données sur les habitudes d'écoute de la radio de plus de 90 000 conducteurs pour tenter de trouver des corrélations entre ce que les gens écoutaient dans leur voiture et les produits qu'ils achetaient.
Affectiva, Xperi et Eyeris affirment que leurs systèmes sont tous conçus pour que les données les plus sensibles, telles que les enregistrements vidéo réels des passagers, puissent être traitées dans la voiture - ce qu'on appelle le "edge processing" - plutôt que d'être téléchargées dans un nuage contrôlé par un constructeur automobile ou une société de covoiturage.
Mais comme les constructeurs automobiles fixent leurs propres règles, ils pourraient, bien sûr, décider qu'ils veulent ces données après tout. Cerence se vante de la quantité de données qu'elle transfère chaque mois dans le nuage à partir des véhicules, ce qui laisse à penser que ses partenaires - qui, outre les constructeurs automobiles, comprennent Microsoft, LG et un certain nombre d'autres entreprises technologiques - ne sont guère intéressés par le traitement de données à des fins de protection de la vie privée.
"S'ils installent des capteurs dans la voiture, cela va sortir de la voiture et être vu par le constructeur automobile", a déclaré à Motherboard Ben Volkow, le PDG d'Otonomo, une société de courtage de données automobiles basée en Israël. Les constructeurs automobiles doivent obtenir une autorisation, et après avoir obtenu cette autorisation, vous devez donner au conducteur la possibilité de dire à tout moment "s'il vous plaît, effacez mes données". C'est censé être soutenu, mais je vous dirai qu'en réalité, ce n'est absolument pas soutenu".
source :
https://www.vice.com/en_us/article/m7jpmp/car-companies-want-to-monitor-your-every-move-with-emotion-detecting-ai
Miroir :
https://app.sigle.io/linkzilla1.id.blockstack/CODUHsyMpmt7FS3aiyjj3