Bonjour ,
C'est deja la cas , et des infrastructures sont deja geres en multi
agents en allant du reseau a la secu , en passant par la remediation .
Il ne me semble pas que les soucis est particulierement change dans les
perimetres infra ( sys , net , sec ) . si , le niveau de
segregration/perimetre reseau est bien plus eleve et la "granularite"
necessaire est bien plus haute que celle dont j'ai l'habitude . le
second point est que le niveau d'observabilite necessaire est sans
commune mesure avec d'autres infras
Je precise que ce sont de tres grosses infras , et que pour certaines ,
ce sont des hybrides hyperscalers/onpremise
Pour repondre sur la possibilite de "controler"/"limiter" le travail des
agents . selon l'orchestration que vous avez , les scenarios sont
multiples . et un agent peut "ponderer" un autre autant sur le travail
produit que lorsqu'il est en train de le produire .
un peu de lecture :
https://www.wiz.io/blog/mcp-security-research-briefing
https://www.seangoedecke.com/ai-security/
https://blog.cloudflare.com/ai-labyrinth/
https://securityexpress.info/ai-turns-cves-into-exploits-in-hours-the-case-of-cve-2025-32433/
https://blog.openthreatresearch.com/demystifying-generative-ai-a-security-researchers-notes/
https://medium.com/seercurity-spotlight/ai-llms-and-prompt-injection-9a5a4c68166e
https://trufflesecurity.com/blog/research-finds-12-000-live-api-keys-and-passwords-in-deepseek-s-training-data
https://www-elladodelmal-com.translate.goog/2025/04/llama-4-security-cyberseceval-prompt.html?_x_tr_sl=auto&_x_tr_tl=en&_x_tr_hl=en&_x_tr_pto=wapp
https://josephthacker.com/hacking/2025/02/25/how-to-hack-ai-apps.html
https://www.whiterabbitneo.com/
https://www.kaggle.com/whitepaper-agents
https://cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/final/en-us/microsoft-brand/documents/Taxonomy-of-Failure-Mode-in-Agentic-AI-Systems-Whitepaper.pdf
https://cloud.google.com/blog/products/ai-machine-learning/mcp-toolbox-for-databases-now-supports-model-context-protocol/
https://blog.trailofbits.com/2025/04/23/how-mcp-servers-can-steal-your-conversation-history/
https://blog.trailofbits.com/2025/04/21/jumping-the-line-how-mcp-servers-can-attack-you-before-you-ever-use-them/
https://arxiv.org/abs/2504.01990
bonne journee ,
IS
*From:* eric.gressier_soudan via frnog <frnog@frnog.org>
*Sent:* Monday, April 28, 2025 at 5:19 PM UTC+2
*To:* Dominique Rousseau <d.rouss...@nnx.com>, frnog@frnog.org
*Subject:* RE: [FRnOG] [MISC] La créativité de ChatGPT sur le network
bonjour
dans cette catégorie de préoccupations, il y a le scheming des IA ou leur
alignement :
https://arxiv.org/abs/2412.04984
je suis tombé dessus un peu par hasard, je ne suis pas spécialiste.
mais, la communauté sera confrontée aux communications entre IA (IA agentique),
avec le protocole MCP, Model Context Protocol, ou A2A, Agent to Agent lié à
Google, dont je viens d'apprendre l'existence !
et bien sûr la cybersécurité qui va avec puisqu'une IA peut être empoisonnée.
si qqun a des infos, je suis preneur.
bonne fin de journée,
bien cordialement, eric gressier soudan.
un humble utilisateur de l'Internet
28 avril 2025 à 16:37 "Dominique Rousseau" <d.rouss...@nnx.com> a écrit:
Le Fri, Apr 25, 2025 at 10:15:23PM -0500, Jeremie [jere...@crasse.fr] a écrit:
Bonjour,
Soyez réaliste. Mesurez le risque que vous prenez.
Qui prendra le temps à chaque fois d'aller croiser, vérifier les
informations, notamment quand il faut "aller vite" ? De bien lire et
analyser ce qui a été généré ? L'humain, qui a inventé la roue, puis la
brouette est un animal fainéant par nature.
On viendra surement - et ca existe peut-etre ? - a des systemes dans
lesquels on encadre la creativite des moteurs generatifs par des regles
de controle/conformite permettant de verifier que ce qui est produit est
"correct".
Mais comme ça nécessite du boulot qu'on ne peut pas déléguer à une IA,
c'est pas hype :)
--
Dominique Rousseau
Neuronnexion, Prestataire Internet & Intranet
6 rue des Hautes cornes - 80000 Amiens
tel: 03 22 71 61 90 - fax: 03 22 71 61 99 - http://www.neuronnexion.coop/
---------------------------
Liste de diffusion du FRnOG
http://www.frnog.org/
---------------------------
Liste de diffusion du FRnOG
http://www.frnog.org/
---------------------------
Liste de diffusion du FRnOG
http://www.frnog.org/
