SafeAgents ಪರಿಶೀಲನೆ: ನಿಮ್ಮ AI ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸುವ ಓಪನ್-ಸೋರ್ಸ್ ಪ್ರಾಕ್ಸಿ

ಕಳೆದ ಎರಡು ವರ್ಷಗಳಲ್ಲಿ AI-ಸಹಾಯಕ ಡೆವಲಪ್ಮೆಂಟ್ ಕ್ಷೇತ್ರದಲ್ಲಿ ಭಾರೀ ಬದಲಾವಣೆ ಆಗಿದೆ. ಸರಳ ಆಟೋಕಂಪ್ಲೀಟ್ ಉಪಕರಣಗಳಿಂದ, ಶೆಲ್ ಕಮಾಂಡ್‌ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವ, ಫೈಲ್ ಸಿಸ್ಟಮ್‌ಗಳನ್ನು ತಿದ್ದುವ ಮತ್ತು ಹೊರಗಿನ APIಗಳೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸುವ ಸ್ವಯಂಚಾಲಿತ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳ ಕಡೆಗೆ ನಾವು ಬದಲಾಗಿದ್ದೇವೆ. ಈ ಸ್ವಯಂಚಾಲಿತತೆ ಉತ್ಪಾದಕತೆಯನ್ನು ಹೆಚ್ಚಿಸಿದರೂ, ಇದು ಹೊಸ ರೀತಿಯ ಸುರಕ್ಷತಾ ಅಪಾಯಗಳನ್ನು ಪರಿಚಯಿಸುತ್ತದೆ. ಒಂದು ಏಜೆಂಟ್ ಅಪಾಯಕಾರಿ rm -rf ಕಮಾಂಡ್ ಅನ್ನು ಕಲ್ಪಿಸಿದರೆ ಏನಾಗುತ್ತದೆ? ದುಷ್ಕರ್ಮಿ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ನಿಮ್ಮ ಏಜೆಂಟ್ ಅನ್ನು ಪರಿಸರ ಚಲಗಳನ್ನು (environment variables) ಸೋರಿಕೆ ಮಾಡುವಂತೆ ಮೋಸಗೊಳಿಸಿದರೆ ಏನಾಗುತ್ತದೆ?

SafeAgents ಅನ್ನು ಪರಿಚಯಿಸೋಣ. ಇದು Hugging Face ನಿಂದ ಬಂದ ಓಪನ್-ಸೋರ್ಸ್ ಪರಿಹಾರವಾಗಿದ್ದು, ನಿಮ್ಮ ಇಡೀ ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್ ಅನ್ನು ಮರುಬರೆಯುವ ಅಗತ್ಯವಿಲ್ಲದೆ ಈ ಅಪಾಯಗಳನ್ನು ಕಡಿಮೆ ಮಾಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಇತ್ತೀಚಿನ ಡೆವಲಪರ್ ಚರ್ಚೆಗಳು ಮತ್ತು GitHub ರೆಪೋಸಿಟರಿಗಳ ಪ್ರಕಾರ, SafeAgents ನಿಮ್ಮ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ ಮತ್ತು ಅದರ ಮಾಡೆಲ್ ಸರ್ವರ್ ನಡುವೆ ಕುಳಿತುಕೊಳ್ಳುವ ಲಘು ತೂಕದ ಸ್ಥಳೀಯ ಪ್ರಾಕ್ಸಿಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಹಾರ್ನೆಸ್ ನೋಡುವ ಮೊದಲು ಮಾಡೆಲ್ ಕಳುಹಿಸುವ ಪ್ರತಿ ಟೂಲ್ ಕಾಲ್ ಅನ್ನು ಇದು ಪರಿಶೀಲಿಸುತ್ತದೆ, ಇದರಿಂದ ಇದು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಸುರಕ್ಷತಾ ಕಾವಲುಗಾರನಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.

ಈ ಪರಿಶೀಲನೆಯಲ್ಲಿ, SafeAgents ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ, 2026 ರಲ್ಲಿ ಸ್ವಯಂಚಾಲಿತ ಏಜೆಂಟ್‌ಗಳನ್ನು ನಿಯೋಜಿಸುವ ತಂಡಗಳಿಗೆ ಇದು ಏಕೆ ಮುಖ್ಯ ಮತ್ತು ನಿಮ್ಮ AI ಡೆವಲಪ್ಮೆಂಟ್ ಸ್ಟ್ಯಾಕ್‌ಗೆ ಇದು ಸರಿಯಾದ ಸುರಕ್ಷತಾ ಪದರವೇ ಎಂಬುದನ್ನು ನಾವು ವಿಶ್ಲೇಷಿಸುತ್ತೇವೆ.

SafeAgents ಎಂದರೇನು?

SafeAgents ಹೊಸ AI ಮಾಡೆಲ್ ಅಲ್ಲ; ಇದು ಒಂದು ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಉಪಕರಣ. ಅದರ ಅಧಿಕೃತ ರೆಪೋಸಿಟರಿಯಲ್ಲಿ ವಿವರಿಸಿರುವಂತೆ ಮತ್ತು ExplainX ಮತ್ತು EveryDev ನಂತಹ ತಾಂತ್ರಿಕ ಬ್ಲಾಗ್‌ಗಳಲ್ಲಿ ವರದಿ ಮಾಡಿರುವಂತೆ, ಇದು ಏಜೆಂಟ್ ಹಾರ್ನೆಸ್ (Claude Code, Cursor ಅಥವಾ ಕಸ್ಟಮ್ LangChain ಏಜೆಂಟ್‌ಗಳಂತಹ) ಮತ್ತು ಅಡಿಪಾಯದಿರುವ ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ (LLM) ನಡುವಿನ ಸಂವಹನವನ್ನು ತಡೆಯುವ “ಸ್ಥಳೀಯ ಪ್ರಾಕ್ಸಿ” ಆಗಿದೆ.

ಸ್ವಯಂಚಾಲಿತ ಏಜೆಂಟ್‌ಗಳಲ್ಲಿ ಟೂಲ್ ಕಾಲ್‌ಗಳ ಮೇಲೆ ದೃಶ್ಯೀಕರಣ ಮತ್ತು ನಿಯಂತ್ರಣದ ಕೊರತೆ ಎಂಬುದು ಇದು ಪರಿಹರಿಸುವ ಮುಖ್ಯ ಸಮಸ್ಯೆಯಾಗಿದೆ. ಸಾಂಪ್ರದಾಯಿಕ ಏಜೆಂಟ್ ಫ್ರೇಮ್‌ವರ್ಕ್‌ಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಮಾಡೆಲ್ ರಚನೆ ಆದ ತಕ್ಷಣ ಟೂಲ್‌ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತವೆ. ಮಾಡೆಲ್ ಒಂದು ಡೈರೆಕ್ಟರಿಯನ್ನು ಅಳಿಸುವ ಅಥವಾ ಸಂವೇದನಾಶೀಲ API ಎಂಡ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ಪ್ರವೇಶಿಸುವ ಕಮಾಂಡ್ ಅನ್ನು ರಚಿಸಿದರೆ, ಹಾರ್ನೆಸ್ ಅದನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತದೆ. SafeAgents ಈ ಪ್ರವಾಹವನ್ನು ತಡೆಯುತ್ತದೆ. ಇದು ಮಾಡೆಲ್ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಪಾರ್ಸ್ ಮಾಡುತ್ತದೆ, ಟೂಲ್ ಕಾಲ್‌ಗಳನ್ನು ಗುರುತಿಸುತ್ತದೆ ಮತ್ತು ಸುರಕ್ಷತಾ ನಿಯಮಗಳನ್ನು ಅನ್ವಯಿಸುತ್ತದೆ. ಒಂದು ಕಾಲ್ ಅಪಾಯಕಾರಿ ಎಂದು ಪರಿಗಣಿಸಿದರೆ, ಅದನ್ನು ತಡೆಹಿಡಿಯಲಾಗುತ್ತದೆ ಮತ್ತು ಟೆಕ್ಸ್ಟ್ ನೋಟಿಸ್‌ನಿಂದ ಬದಲಾಯಿಸಲಾಗುತ್ತದೆ, ಇದರಿಂದ ಏಜೆಂಟ್ ಯುಕ್ತಿ ಪ್ರಯೋಗವನ್ನು ಮುಂದುವರಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ ಆದರೆ ಕಾರ್ಯಗತಗೊಳ್ಳುವುದನ್ನು ತಡೆಯಲಾಗುತ್ತದೆ.

ಒಳಗೆ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ

ಕಡಿಮೆ ವಿಳಂಬವನ್ನು ಖಾತ್ರಿಪಡಿಸಲು ವಾಸ್ತುಶಿಲ್ಪವನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಕನಿಷ್ಠ ಮಟ್ಟದಲ್ಲಿ ಇರಿಸಲಾಗಿದೆ. SafeAgents ಮಧ್ಯವರ್ತಿ ಪದರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ:

1. ಅಡ್ಡಗಟ್ಟುವಿಕೆ: ಏಜೆಂಟ್ LLM ಗೆ ವಿನಂತಿಯನ್ನು ಕಳುಹಿಸುತ್ತದೆ. ಪ್ರತಿಕ್ರಿಯೆ ನೇರವಾಗಿ ಹಾರ್ನೆಸ್‌ಗೆ ಹೋಗುವ ಬದಲು SafeAgents ಪ್ರಾಕ್ಸಿಗೆ ಬರುತ್ತದೆ.
2. ಪರಿಶೀಲನೆ: ಪ್ರಾಕ್ಸಿ ರಚನಾತ್ಮಕ ಟೂಲ್ ಕಾಲ್‌ಗಳಿಗಾಗಿ (ಉದಾಹರಣೆಗೆ, JSON ಫಂಕ್ಷನ್ ಕಾಲ್‌ಗಳು ಅಥವಾ ನಿರ್ದಿಷ್ಟ XML ಟ್ಯಾಗ್‌ಗಳು) ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಪಾರ್ಸ್ ಮಾಡುತ್ತದೆ.
3. ನೀತಿ ಮೌಲ್ಯಮಾಪನ: ಇವುಗಳನ್ನು ಮುಂಚಿತವಾಗಿ ವ್ಯಾಖ್ಯಾನಿಸಲಾದ ಅಥವಾ ಕಸ್ಟಮ್ ಸುರಕ್ಷತಾ ನಿಯಮಗಳ ಗಣದ ವಿರುದ್ಧ ಇದು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಈ ನಿಯಮಗಳು ನಿರ್ದಿಷ್ಟ ಆದೇಶಗಳನ್ನು ತಡೆಯಬಹುದು, ಫೈಲ್ ಪಾತ್‌ಗಳನ್ನು ನಿರ್ಬಂಧಿಸಬಹುದು ಅಥವಾ ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶವನ್ನು ಮಿತಿಗೊಳಿಸಬಹುದು.
4. ಶುದ್ಧೀಕರಣ: ಒಂದು ಕಾಲ್ ಉತ್ತೀರ್ಣವಾದರೆ, ಅದನ್ನು ಹಾರ್ನೆಸ್‌ಗೆ ಮುಂದೆ ಕಳುಹಿಸಲಾಗುತ್ತದೆ. ಅದು ವಿಫಲವಾದರೆ, ಪ್ರಾಕ್ಸಿ ಅಪಾಯಕಾರಿ ಕಾಲ್ ಅನ್ನು ಸುರಕ್ಷಿತ ಪಠ್ಯ ಸೂಚನೆಯೊಂದಿಗೆ (ಉದಾಹರಣೆಗೆ, “Tool call blocked by policy”) ಬದಲಾಯಿಸಿ ಅದನ್ನು ಏಜೆಂಟ್‌ಗೆ ಹಿಂದಿರುಗಿಸುತ್ತದೆ.

ಈ ವಿಧಾನವು ಟೀಮ್‌ಗಳಿಗೆ ಕೋರ್ ಹಾರ್ನೆಸ್ ಕೋಡ್ ಅನ್ನು ತಿದ್ದುಪಡಿ ಮಾಡದೆ ಇರುವ ಏಜೆಂಟ್‌ಗಳನ್ನು ಸುರಕ್ಷಿತಗೊಳಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ, ಇದು ಲೆಗಸಿ ಏಜೆಂಟ್ ಅನುಷ್ಠಾನಗಳನ್ನು ಹೊಂದಿರುವ ಎಂಟರ್‌ಪ್ರೈಸ್‌ಗಳಿಗೆ ಗಮನಾರ್ಹ ಪ್ರಯೋಜನವಾಗಿದೆ.

ಪ್ರಮುಖ ವೈಶಿಷ್ಟ್ಯಗಳು ಮತ್ತು ಸಾಮರ್ಥ್ಯಗಳು

SafeAgents ಒಂದು ನೈಚ್ ಟೂಲ್ ಆಗಿದ್ದರೂ, ಅದರ ವೈಶಿಷ್ಟ್ಯಗಳ ಗಣವು ಏಜೆಂಟಿಕ್ ಕಾರ್ಯಪ್ರವಾಹಗಳಲ್ಲಿನ ನಿರ್ದಿಷ್ಟ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸುವ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸಿದೆ.

1. ಹಾರ್ನೆಸ್-ಅಗ್ನೋಸ್ಟಿಕ್ ಇಂಟಿಗ್ರೇಷನ್

SafeAgents ನ ಅತ್ಯಂತ ಹೊಗಳಿಸಲ್ಪಟ್ಟ ಅಂಶಗಳಲ್ಲಿ ಒಂದು ಅದರ ಹೊಂದಾಣಿಕೆ. ಇದು ಪ್ರಾಕ್ಸಿ ಮಟ್ಟದಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದರಿಂದ, ನೀವು ಯಾವ ಫ್ರೇಮ್‌ವರ್ಕ್ ಬಳಸುತ್ತೀರಿ ಎಂಬುದರ ಬಗ್ಗೆ ಅದು ಚಿಂತಿಸುವುದಿಲ್ಲ. ನೀವು Autogen, LangGraph ಅಥವಾ ಪ್ರೊಪ್ರೈಟರಿ ಇಂಟರ್ನಲ್ ಟೂಲ್ ಬಳಸುತ್ತಿದ್ದರೂ, ನಿಮ್ಮ ಏಜೆಂಟ್ ಮಾದರಿ ಸರ್ವರ್‌ಗೆ ಸ್ಟ್ಯಾಂಡರ್ಡ್ HTTP API ಗಳ ಮೂಲಕ ಸಂವಹನ ನಡೆಸಿದರೆ, SafeAgents ಮಧ್ಯದಲ್ಲಿ ಕುಳಿತುಕೊಳ್ಳಬಹುದು. ಹಲವಾರು ಏಜೆಂಟ್ ವಾಸ್ತುಶಿಲ್ಪಗಳೊಂದಿಗೆ ಪ್ರಯೋಗಿಸುವ ಟೀಮ್‌ಗಳಿಗೆ ಈ “ಒಮ್ಮೆ ಬರೆಯಿರಿ, ಎಲ್ಲೆಡೆ ಸುರಕ್ಷಿತಗೊಳಿಸಿ” ಸಾಮರ್ಥ್ಯ ಅತ್ಯಗತ್ಯ.

2. ರಿಯಲ್-ಟೈಮ್ ಟೂಲ್ ಕಾಲ್ ಪರಿಶೀಲನೆ

ಏನು ತಪ್ಪಾಯಿತು ಎಂಬುದನ್ನು ನಂತರ ಮಾತ್ರ ತಿಳಿಸುವ ಪೋಸ್ಟ್-ಎಕ್ಸಿಕ್ಯೂಷನ್ ಲಾಗ್‌ಗಳಂತಲ್ಲದೆ, SafeAgents ಪ್ರಿ-ಎಕ್ಸಿಕ್ಯೂಷನ್ ಸುರಕ್ಷತೆಯನ್ನು ಒದಗಿಸುತ್ತದೆ. ಹಾರ್ನೆಸ್ ಅದರ ಮೇಲೆ ಕ್ರಮ ಕೈಗೊಳ್ಳುವ ಮೊದಲು ಟೂಲ್ ಕಾಲ್‌ನ ಉದ್ದೇಶವನ್ನು ಇದು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಡೇಟಾಬೇಸ್ ಡಿಲೀಷನ್‌ಗಳು ಅಥವಾ ಅನಧಿಕೃತ API ಬರಹಗಳಂತಹ ಹಿಂತಿರುಗಿಸಲಾಗದ ಕ್ರಮಗಳನ್ನು ತಡೆಯಲು ಇದು ನಿರ್ಣಾಯಕವಾಗಿದೆ.

3. ಓಪನ್-ಸೋರ್ಸ್ ಮತ್ತು ಲೋಕಲ್-ಫರ್ಸ್ಟ್

Hugging Face ನಿಂದ GitHub ನಲ್ಲಿ ಹೋಸ್ಟ್ ಮಾಡಲಾದ SafeAgents ಓಪನ್-ಸೋರ್ಸ್ ಆಗಿದೆ. ಇದರರ್ಥ ನೀವು ಕೋಡ್ ಅನ್ನು ಆಡಿಟ್ ಮಾಡಬಹುದು, ಬ್ಲಾಕಿಂಗ್ ನಿಯಮಗಳನ್ನು ಕಸ್ಟಮೈಸ್ ಮಾಡಬಹುದು ಮತ್ತು ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸಬಹುದು. ಗೌಪ್ಯತೆಯ ಬಗ್ಗೆ ಎಚ್ಚರಿಕೆ ವಹಿಸುವ ಟೀಮ್‌ಗಳಿಗೆ, ಪ್ರಾಕ್ಸಿಯನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸುವುದರಿಂದ ಸಂವೇದನಾಶೀಲ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಟೂಲ್ ಔಟ್‌ಪುಟ್‌ಗಳು ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಸುರಕ್ಷತಾ SaaS ಪ್ರೊವೈಡರ್‌ಗಳ ಮೂಲಕ ಹಾದುಹೋಗಬೇಕಾಗಿರುವುದಿಲ್ಲ. ಇದು ಸುರಕ್ಷತಾ ಪದರವನ್ನು ನಿಮ್ಮ ಸ್ವಂತ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಒಳಗೆ ಇರಿಸುತ್ತದೆ.

4. ಲಘು ಫುಟ್‌ಪ್ರಿಂಟ್

ಪ್ರಾಕ್ಸಿ ಹಗುರವಾಗಿರುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಇದು ಏಜೆಂಟ್ ಲೂಪ್‌ಗೆ ಕನಿಷ್ಠ ವಿಳಂಬವನ್ನು ಸೇರಿಸುತ್ತದೆ, ಇದು ಪ್ರತಿಕ್ರಿಯೆ ಪ್ರಮುಖವಾಗಿರುವ ಇಂಟರ್ಯಾಕ್ಟಿವ್ ಕೋಡಿಂಗ್ ಸೆಷನ್‌ಗಳಿಗೆ ಅತ್ಯಗತ್ಯ. ಪರಿಶೀಲನಾ ಪದರಕ್ಕೆ ಭಾರವಾದ GPU ಸಂಪನ್ಮೂಲಗಳ ಅಗತ್ಯವಿಲ್ಲ, ಏಕೆಂದರೆ ಇದು ಪ್ರಾಥಮಿಕವಾಗಿ ಪಾರ್ಸಿಂಗ್ ಮತ್ತು ರೂಲ್-ಮ್ಯಾಚಿಂಗ್ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ, ಪ್ರತಿ ಪರಿಶೀಲನೆಗಾಗಿ ದ್ವಿತೀಯ LLM ಅನ್ನು ನಡೆಸುವುದಕ್ಕಿಂತ (ಆದರೂ ಸುಧಾರಿತ ಕಾನ್ಫಿಗರೇಶನ್‌ಗಳು LLM ಆಧಾರಿತ ದ್ವಿತೀಯ ಪರಿಶೀಲನೆಗಳನ್ನು ಅನುಮತಿಸಬಹುದು).

SafeAgents vs. Microsoft SafeAgents: ಭೂದೃಶ್ಯವನ್ನು ಸ್ಪಷ್ಟಪಡಿಸುವುದು

Hugging Face safeagents ಪ್ರಾಕ್ಸಿ ಮತ್ತು microsoft/SafeAgents ಫ್ರೇಮ್‌ವರ್ಕ್ ನಡುವೆ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸುವುದು ಮುಖ್ಯ. ಎರಡೂ ಏಜೆಂಟ್ ಸುರಕ್ಷತೆಯನ್ನು ಸುಧಾರಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿದ್ದರೂ, ಅವು ವಿಭಿನ್ನ ಉದ್ದೇಶಗಳಿಗೆ ಸೇವೆ ಸಲ್ಲಿಸುತ್ತವೆ.

ಗಮನಿಸಿ: Microsoft ಯೋಜನೆಯು ಮಲ್ಟಿ-ಏಜೆಂಟ್ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ (MAS) ಸುರಕ್ಷತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ವ್ಯಾಪಕವಾದ “ಏಕೀಕೃತ ಫ್ರೇಮ್‌ವರ್ಕ್” ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ, ಇದರಲ್ಲಿ ದಾಳಿ ಪತ್ತೆ ಮತ್ತು Autogen ಮತ್ತು LangGraph ನಂತಹ ಫ್ರೇಮ್‌ವರ್ಕ್‌ಗಳ ಬೆಂಬಲ ಸೇರಿವೆ. Hugging Face ಉಪಕರಣವು ಟೂಲ್ ಎಕ್ಸಿಕ್ಯೂಶನ್‌ನ ನಿರ್ದಿಷ್ಟ ಕಾರ್ಯಾಚರಣಾ ಸುರಕ್ಷತೆಯ ಮೇಲೆ ಹೆಚ್ಚು ಕೇಂದ್ರೀಕರಿಸಿದೆ.

ಒಳ್ಳೆಯ ಮತ್ತು ಕೆಟ್ಟ ಬದಿಗಳು

ಒಳ್ಳೆಯ ಬದಿಗಳು

• ನಾನ್-ಇನ್ವೇಸಿವ್ ಸುರಕ್ಷತೆ: ನಿಮ್ಮ ಏಜೆಂಟ್‌ನ ತರ್ಕವನ್ನು ನೀವು ಮರುಬರೆಯಬೇಕಾಗಿಲ್ಲ. ಇದು ಪಾರದರ್ಶಕ ಪ್ರಾಕ್ಸಿಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.
• ಪೂರ್ವ-ಎಕ್ಸಿಕ್ಯೂಶನ್ ಬ್ಲಾಕಿಂಗ್: ಅಪಾಯಕಾರಿ ಕ್ರಿಯೆಗಳನ್ನು ಅವು ನಡೆಯುವ ಮೊದಲೇ ತಡೆಯುತ್ತದೆ, ನಂತರ ಲಾಗಿಂಗ್ ಮಾಡುವುದಕ್ಕಿಂತ.
• ಓಪನ್-ಸೋರ್ಸ್ ಪಾರದರ್ಶಕತೆ: ಕೋಡ್‌ಗೆ ಪೂರ್ಣ ಪ್ರವೇಶವು ಕಸ್ಟಮ್ ರೂಲ್ ರಚನೆ ಮತ್ತು ಸುರಕ್ಷತಾ ಆಡಿಟ್‌ಗಳನ್ನು ಸಾಧ್ಯಗೊಳಿಸುತ್ತದೆ.
• ಕಡಿಮೆ ವಿಳಂಬ: ಹಗುರವಾಗಿರುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ, ಇದು ಏಜೆಂಟ್ ಸಂವಹನಗಳನ್ನು ಗಮನಾರ್ಹವಾಗಿ ನಿಧಾನಗೊಳಿಸದಂತೆ ಖಚಿತಪಡಿಸುತ್ತದೆ.
• ವೆಂಡರ್ ನ್ಯೂಟ್ರಲ್: API ಹೊಂದಾಣಿಕೆಯಾಗಿದ್ದರೆ, ಯಾವುದೇ ಮಾಡೆಲ್ ಪ್ರೊವೈಡರ್‌ನೊಂದಿಗೆ (OpenAI, Anthropic, ಸ್ಥಳೀಯ Llama ಮಾಡೆಲ್‌ಗಳು) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.

ಕೆಟ್ಟ ಬದಿಗಳು

• ರೂಲ್ ಮ್ಯಾನೇಜ್‌ಮೆಂಟ್ ಓವರ್‌ಹೆಡ್: ನಿಮ್ಮ ನಿರ್ದಿಷ್ಟ ಪರಿಸರಕ್ಕೆ “ಅಪಾಯಕಾರಿ” ಎಂದರೆ ಏನೆಂದು ನೀವು ವ್ಯಾಖ್ಯಾನಿಸಬೇಕು. ಡೀಫಾಲ್ಟ್ ರೂಲ್‌ಗಳು ತುಂಬಾ ಕಠಿಣವಾಗಿರಬಹುದು ಅಥವಾ ತುಂಬಾ ಸಡಿಲವಾಗಿರಬಹುದು.
• ಫಾಲ್ಸ್ ಪಾಸಿಟಿವ್ಸ್: ಆಕ್ರಮಣಕಾರಿ ಬ್ಲಾಕಿಂಗ್ ಕಾನೂನುಬದ್ಧ ಏಜೆಂಟ್ ಕ್ರಿಯೆಗಳಿಗೆ ಅಡ್ಡಿಪಡಿಸಬಹುದು, ಇದಕ್ಕೆ ಎಚ್ಚರಿಕೆಯ ಟ್ಯೂನಿಂಗ್ ಅಗತ್ಯವಿದೆ.
• ಪರಿಮಿತ ಸಂದರ್ಭ ಗ್ರಹಿಕೆ: ಪ್ರಾಕ್ಸಿಯಾಗಿ, ಇದು ಯಾವಾಗಲೂ ಸಂಪೂರ್ಣ ಸಂಭಾಷಣಾ ಸಂದರ್ಭವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳದಿರಬಹುದು, ನಿರ್ದಿಷ್ಟ ಟೂಲ್ ಕಾಲ್ ಮಾದರಿಗಳನ್ನು ಉಂಟುಮಾಡದ ಸೂಕ್ಷ್ಮ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್‌ಗಳನ್ನು ತಪ್ಪಿಸಬಹುದು.
• ನಿರ್ದಿಷ್ಟ ಬಳಕೆಯ ಸಂದರ್ಭ: ಇದು ವಿಶೇಷವಾಗಿ ಟೂಲ್-ಕಾಲ್ ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ಇದೆ. ನೀವು ಟೂಲ್ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆ ಇಲ್ಲದೆ ಸರಳ ಚಾಟ್ ಅಥವಾ ರಿಟ್ರೀವಲ್‌ಗಾಗಿ ಏಜೆಂಟ್‌ಗಳನ್ನು ಬಳಸುತ್ತಿದ್ದರೆ, ಪ್ರಯೋಜನಗಳು ಕನಿಷ್ಠವಾಗಿರುತ್ತವೆ.

SafeAgents ಅನ್ನು ಯಾರು ಬಳಸಬೇಕು?

SafeAgents, ಉತ್ಪಾದನೆ ಅಥವಾ ಉತ್ಪಾದನೆ-ಪೂರ್ವ ಪರಿಸರಗಳಲ್ಲಿ ಸ್ವಯಂಚಾಲಿತ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳನ್ನು ಈಗಾಗಲೇ ನಿಯೋಜಿಸುತ್ತಿರುವ ಇಂಜಿನಿಯರಿಂಗ್ ತಂಡಗಳು ಮತ್ತು ಭದ್ರತಾ-ಸಜಾಗರೂಕ ಡೆವಲಪರ್‌ಗಳಿಗೆ ಉತ್ತಮ ಆಯ್ಕೆಯಾಗಿದೆ.

1. DevOps ತಂಡಗಳು: ನಿಮ್ಮ ಏಜೆಂಟ್‌ಗಳು CI/CD ಪೈಪ್‌ಲೈನ್‌ಗಳು ಅಥವಾ ಕ್ಲೌಡ್ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್‌ಗೆ ಪ್ರವೇಶ ಹೊಂದಿದ್ದರೆ, ಅಪಘಾತಕಾರಿ ಅಥವಾ ದುರುದ್ದೇಶಪೂರ್ವಕ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಬದಲಾವಣೆಗಳನ್ನು ತಡೆಯಲು SafeAgents ಅಗತ್ಯವಾದ ಗಾರ್ಡ್‌ರೈಲ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ.
2. ಎಂಟರ್‌ಪ್ರೈಸ್ ಡೆವಲಪರ್‌ಗಳು: ಕಟ್ಟುನಿಟ್ಟಾದ ಅನುಸರಣಾ ಅಗತ್ಯತೆಗಳನ್ನು (HIPAA, SOC2) ಹೊಂದಿರುವ ಕಂಪನಿಗಳು, ಏಜೆಂಟ್‌ಗಳು ಟೂಲ್ ಕಾಲ್‌ಗಳ ಮೂಲಕ PII ಅನ್ನು ಸೋರಿಕೆ ಮಾಡದಂತೆ ಅಥವಾ ಅನಧಿಕೃತ ಡೇಟಾ ಮೂಲಗಳನ್ನು ಪ್ರವೇಶಿಸದಂತೆ ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು SafeAgents ಅನ್ನು ಬಳಸಬಹುದು.
3. ಓಪನ್-ಸೋರ್ಸ್ ಕಾಣಿಕೆಗಾರರು: ನೀವು ಓಪನ್-ಸೋರ್ಸ್ ಏಜೆಂಟ್ ಫ್ರೇಮ್‌ವರ್ಕ್ ಅನ್ನು ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ಎಂಟರ್‌ಪ್ರೈಸ್ ಅಳವಡಿಕೆಗಾಗಿ ಮಹತ್ವದ ಮಾರಾಟ ಅಂಶವಾಗಬಹುದಾದ ಐಚ್ಛಿಕ ಭದ್ರತಾ ಪದರವಾಗಿ SafeAgents ಅನ್ನು ಸಂಯೋಜಿಸಬಹುದು.

ಫೈಲ್ ಸಿಸ್ಟಮ್ ಪ್ರವೇಶವಿಲ್ಲದೆ ಸರಳ ಕೋಡ್ ಜನರೇಶನ್‌ಗಾಗಿ ಏಜೆಂಟ್‌ಗಳನ್ನು ಬಳಸುವ ಹಾಬಿಬಿಸ್ಟ್‌ಗಳಿಗೆ ಅಥವಾ UI ಮತ್ತು ಡ್ಯಾಶ್‌ಬೋರ್ಡ್ ಹೊಂದಿರುವ ಸಂಪೂರ್ಣವಾಗಿ ನಿರ್ವಹಿಸಲ್ಪಟ್ಟ ಭದ್ರತಾ ಪರಿಹಾರವನ್ನು ಆದ್ಯತೆ ನೀಡುವ ತಂಡಗಳಿಗೆ ಇದು ಕಡಿಮೆ ಸೂಕ್ತವಾಗಿದೆ.

ಸೆಟಪ್ ಮತ್ತು ಕಾನ್ಫಿಗರೇಶನ್

ನಿರ್ದಿಷ್ಟ ಕೋಡ್ ಸ್ನಿಪೆಟ್‌ಗಳು ಭಾಷೆಯ ಆಧಾರದ ಮೇಲೆ ಬದಲಾಗುತ್ತವೆ, ಆದರೆ ಸಾಮಾನ್ಯ ಸೆಟಪ್ ಮೂರು ಹಂತಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ:

1. ಪ್ರಾಕ್ಸಿ ಅನ್ನು ಇನ್‌ಸ್ಟಾಲ್ ಮಾಡಿ: Hugging Face safeagents ರೆಪೋಸಿಟರಿಯನ್ನು ಕ್ಲೋನ್ ಮಾಡಿ ಮತ್ತು ಅವಲಂಬನೆಗಳನ್ನು ಇನ್‌ಸ್ಟಾಲ್ ಮಾಡಿ. ಇದು ಸಾಮಾನ್ಯವಾಗಿ ಪೈಥಾನ್-ಆಧಾರಿತ ಸೇವೆಯಾಗಿರುತ್ತದೆ.
2. ನಿಯಮಗಳನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಿ: ನಿಮ್ಮ ಭದ್ರತಾ ನೀತಿಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಿ. ಉದಾಹರಣೆಗೆ, ನೀವು sudo ಅನ್ನು ಒಳಗೊಂಡಿರುವ ಎಲ್ಲಾ bash ಆದೇಶಗಳನ್ನು ನಿರ್ಬಂಧಿಸಬಹುದು ಅಥವಾ ನಿರ್ದಿಷ್ಟ /workspace ಡೈರೆಕ್ಟರಿಗೆ ಫೈಲ್ ಬರೆಯುವಿಕೆಯನ್ನು ನಿರ್ಬಂಧಿಸಬಹುದು.
3. ನಿಮ್ಮ ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ದೇಶಿಸಿ: ನಿಮ್ಮ ಏಜೆಂಟ್‌ನ API ಎಂಡ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ನೇರ ಮಾಡೆಲ್ ಸರ್ವರ್ URL ಬದಲಿಗೆ ಸ್ಥಳೀಯ SafeAgents ಪ್ರಾಕ್ಸಿ URL ಗೆ ನಿರ್ದೇಶಿಸುವಂತೆ ಬದಲಾಯಿಸಿ. ನಂತರ ಪ್ರಾಕ್ಸಿ ಮಾನ್ಯವಾದ ವಿನಂತಿಗಳನ್ನು ನೈಜ ಮಾಡೆಲ್ ಸರ್ವರ್‌ಗೆ ಮುಂದೆ ಕಳುಹಿಸುತ್ತದೆ.

ಪ್ರಶ್ನೋತ್ತರಗಳು

SafeAgents ಬಳಸಲು ಉಚಿತವೇ? ಹೌದು, ಇದು GitHub ನಲ್ಲಿ ಹೋಸ್ಟ್ ಮಾಡಲಾದ ಓಪನ್-ಸೋರ್ಸ್ ಸಾಫ್ಟ್‌ವೇರ್ ಆಗಿದೆ. ಲೈಸೆನ್ಸ್ ಶುಲ್ಕಗಳಿಲ್ಲ. ಆದಾಗ್ಯೂ, ಅಡಿಪಾಯದ LLM API ಬಳಕೆ ಮತ್ತು ಪ್ರಾಕ್ಸಿಯನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಹೋಸ್ಟ್ ಮಾಡಲು ಬೇಕಾದ ಯಾವುದೇ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್‌ಗೆ ನೀವು ವೆಚ್ಚಗಳನ್ನು ಭರಿಸಬೇಕಾಗುತ್ತದೆ.

SafeAgents Llama 3 ನಂತಹ ಸ್ಥಳೀಯ LLM ಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆಯೇ? ಹೌದು. ಇದು ಹಾರ್ನೆಸ್ ಮತ್ತು ಮಾಡೆಲ್ ಸರ್ವರ್ ನಡುವೆ ಇರುವ ಪ್ರಾಕ್ಸಿ ಆಗಿರುವುದರಿಂದ, Ollama, vLLM ಅಥವಾ Hugging Face TGI ಮೂಲಕ ಸೇವೆ ಸಲ್ಲಿಸುವ ಸ್ಥಳೀಯ ಮಾಡೆಲ್‌ಗಳನ್ನು ಒಳಗೊಂಡಂತೆ, ಪ್ರಮಾಣಿತ API ಎಂಡ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ಒದಗಿಸುವ ಯಾವುದೇ ಮಾಡೆಲ್‌ನೊಂದಿಗೆ ಇದು ಕೆಲಸ ಮಾಡುತ್ತದೆ.

ಬ್ಲಾಕಿಂಗ್ ನಿಯಮಗಳನ್ನು ನಾನು ಕಸ್ಟಮೈಸ್ ಮಾಡಬಹುದೇ? ಹೌದು. ಯೋಜನೆಯ ಓಪನ್-ಸೋರ್ಸ್ ಸ್ವಭಾವವು ನಿಮಗೆ ಪರಿಶೀಲನಾ ತರ್ಕವನ್ನು ತಿದ್ದುಪಡಿ ಮಾಡಲು ಮತ್ತು ನಿಮ್ಮ ಕಾರ್ಯಪ್ರವಾಹಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ನಿರ್ದಿಷ್ಟ ಉಪಕರಣಗಳು ಅಥವಾ ಕಮಾಂಡ್ ಮಾದರಿಗಳಿಗೆ ಕಸ್ಟಮ್ ನಿಯಮಗಳನ್ನು ಸೇರಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

ಇದು Claude Code ನೊಂದಿಗೆ ಹೊಂದಾಣಿಕೆಯಾಗುತ್ತದೆಯೇ? ಇತ್ತೀಚಿನ ಮಾರ್ಗದರ್ಶಿಗಳ ಪ್ರಕಾರ, ಹೌದು. API ಎಂಡ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ಪ್ರಾಕ್ಸಿ ಮೂಲಕ ರೂಟ್ ಮಾಡಲು ನೀವು ಕಾನ್ಫಿಗರ್ ಮಾಡಬಹುದಾದರೆ, Claude Code ನಂತಹ ಜನಪ್ರಿಯ ಉಪಕರಣಗಳನ್ನು ಒಳಗೊಂಡಂತೆ “ಯಾವುದೇ ಕೋಡಿಂಗ್ ಹಾರ್ನೆಸ್” ನೊಂದಿಗೆ ಕೆಲಸ ಮಾಡಲು SafeAgents ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.

ಇದು ಪ್ರಾಂಪ್ಟ್ ಇಂಜಿನಿಯರಿಂಗ್ ಅನ್ನು ಬದಲಾಯಿಸುತ್ತದೆಯೇ? ಇಲ್ಲ. SafeAgents ಒಂದು ಸುರಕ್ಷತಾ ಜಾಲವಾಗಿದ್ದು, ಉತ್ತಮ ಪ್ರಾಂಪ್ಟ್ ವಿನ್ಯಾಸದ ಬದಲಿ ಅಲ್ಲ. ಇದು ಅಪಾಯಕಾರಿ ಟೂಲ್ ಕಾಲ್‌ಗಳನ್ನು ಸೆರೆಹಿಡಿಯುತ್ತದೆ, ಆದರೆ ತಪ್ಪಾದ ಆದರೆ ಸುರಕ್ಷಿತ ಔಟ್‌ಪುಟ್‌ಗಳಿಗೆ ಕಾರಣವಾಗುವ ಕಳಪೆ ತರ್ಕ ಅಥವಾ ಹ್ಯಾಲೂಸಿನೇಷನ್‌ಗಳನ್ನು ಇದು ಸರಿಪಡಿಸುವುದಿಲ್ಲ.

ಅಂತಿಮ ತೀರ್ಮಾನ

2026 ರಲ್ಲಿ AI ಏಜೆಂಟ್ ಸುರಕ್ಷತೆಗೆ SafeAgents ಒಂದು ಪ್ರಾಯೋಗಿಕ ವಿಧಾನವನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ. ಮಾಡೆಲ್ ಮಟ್ಟದಲ್ಲಿ AI ಅಲೈನ್‌ಮೆಂಟ್ ಮತ್ತು ಸುರಕ್ಷತೆಯ ಸಮಸ್ಯೆಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಪರಿಹರಿಸಲು ಪ್ರಯತ್ನಿಸುವ ಬದಲು, ಸ್ವಯಂಚಾಲಿತ ಟೂಲ್ ಎಕ್ಸಿಕ್ಯೂಷನ್‌ನ ತಕ್ಷಣದ ಅಪಾಯಗಳಿಂದ ನಿಮ್ಮ ಇನ್‌ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಅನ್ನು ರಕ್ಷಿಸುವ ಪ್ರಾಯೋಗಿಕ, ಕಾರ್ಯಾಚರಣಾ ಪದರವನ್ನು ಇದು ಒದಗಿಸುತ್ತದೆ.

ಏಜೆಂಟಿಕ್ ಕಾರ್ಯಪ್ರವಾಹಗಳಲ್ಲಿ ಈಗಾಗಲೇ ಹೂಡಿಕೆ ಮಾಡಿರುವ ತಂಡಗಳಿಗೆ, ಕೋಡ್ ಅನ್ನು ಮರುಬರೆಯದೆ ಸುರಕ್ಷತಾ ಪದರವನ್ನು ಸೇರಿಸುವ ಸಾಮರ್ಥ್ಯವು ಗಮನಾರ್ಹ ಪ್ರಯೋಜನವಾಗಿದೆ. ನಿಯಮಗಳನ್ನು ಟ್ಯೂನ್ ಮಾಡಲು ಕೆಲವು ಆರಂಭಿಕ ಕಾನ್ಫಿಗರೇಶನ್ ಅಗತ್ಯವಿದ್ದರೂ, ಒಂದು ಹ್ಯಾಲೂಸಿನೇಟೆಡ್ rm -rf ನಿಮ್ಮ ಸರ್ವರ್ ಅನ್ನು ಅಳಿಸುವುದಿಲ್ಲ ಎಂಬ ಖಚಿತತೆ ನೀಡುವ ಮನಸ್ಸಿನ ಶಾಂತಿ ಪ್ರಯತ್ನಕ್ಕೆ ಅರ್ಹವಾಗಿದೆ. ನೀವು ನೈಜ-ಪ್ರಪಂಚದ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಸ್ಪರ್ಶಿಸುವ ಏಜೆಂಟ್‌ಗಳನ್ನು ನಿಯೋಜಿಸುತ್ತಿದ್ದರೆ, SafeAgents ನೀವು ತಕ್ಷಣ ಮೌಲ್ಯಮಾಪನ ಮಾಡಬೇಕಾದ ಉಪಕರಣವಾಗಿದೆ.