Microsoft présente son framework d'IA générative pour les hackeurs
Toute l’actu cyber de la semaine, présentée par un expert. On revient notamment sur le framework d’IA générative les hackeurs de Microsoft, l’ANSSI qui publie sont panorama cyber 2023 et la NSA qui nous explique comment se protéger contre elle.
Microsoft présente son framework d'IA générative pour les hackeurs
Microsoft présente son outil d'évaluation d'IA pour les red team. La société publie PyRIT, un outil en python qui permet de simuler des attaques sur des applications à base d'IA générative. Ces applications ne fonctionnent pas comme des applications classiques. De petites variations dans les entrées ou le contexte peuvent affecter grandement le résultat obtenu. Le retour d'expérience des équipes de Microsoft et qu'il faut préparer des tests statistiques pour évaluer l'efficacité et la fiabilité du modèle.
Pourquoi c'est important ?
Les applications qui doivent être développées avec l'IA seront de plus en plus nombreuses. Bien que des frameworks existent pour évaluer le risque de leur utilisation ou bien la protection des modèles, il reste difficile d'évaluer la sécurité d'une IA. Pour information nous proposons un rapport personnalisé à votre organisation sur l'usage et la sécurité des IA génératives. En proposant un outil d'évaluation, Microsoft propose une organisation et une vision de la sécurité du système qu'il faudra bien entendu adapter au contexte de votre société.
L'ANSSI publie son panorama de la menace 2023
Le rapport CERTFR-2024-CTI-001 fournit une analyse détaillée des activités cybernétiques malveillantes observées en 2023. Il met en évidence une augmentation continue de la menace informatique, amplifiée par des tensions géopolitiques et des événements internationaux majeurs en France. Trois principales sources de menaces sont identifiées : les acteurs liés à la Chine, à la Russie, et l'écosystème cybercriminel. Le document décrit l'espionnage stratégique et industriel comme étant la menace la plus préoccupante, notant une augmentation significative du ciblage d'entités stratégiques et une diversification des techniques pour rester non détectés. Les attaques à des fins lucratives, en particulier les rançongiciels, restent à un niveau élevé, profitant de la disponibilité de codes sources et d'outils facilitant l'accès à des acteurs moins compétents. Les opérations de déstabilisation, notamment via des attaques par déni de service distribué (DDoS), sont également soulignées, reflétant une utilisation croissante de la cyber pour promouvoir des agendas politiques ou nuire à la réputation d'organisations. Le rapport met en avant l'exploitation de vulnérabilités jour-zéro, l'absence de bonnes pratiques d'administration, et la nécessité d'une vigilance accrue face aux événements majeurs prévus en France.
La NSA vous explique comment se protéger contre elle
La NSA vous explique comment se protéger contre elle Le responsable de l'équipe de hackeurs de la NSA est intervenu dans le cadre de la conférence Enigma à San Francisco. Il a pu présenter quelques vulnérabilités exploitées par l'organisation afin de compromettre un système. En plus des problématiques de patching ou de surface d'attaque trop importante et non maitrisée, on apprend que la majorité des intrusions sont automatisées. Par conséquent, dès qu'une mesure de sécurité est retirée, le système est compromis. Il a également parlé des attaques par canaux auxiliaires qui sont très impressionnants.
Pourquoi c'est important ?
L'intervention ne s'est pas concentrée sur l'attaque, mais également sur les mesures de défense à mettre en place. Parmi les recommandations : la segmentation des systèmes et une analyse de log déconnectée ; avec une surveillance bien entendu. Cette conférence permet de faire le point sur les menaces existantes et connues. Les mesures d'hygiène restent un b a ba, qu'il faut renforcer avec des mesures complémentaires.