రెడ్ టీమ్‌లకు సహాయం చేయడానికి AI యొక్క సంభావ్యతపై ఇన్ఫోసెక్ నిపుణులు విభజించారు
కెనాలిస్ APAC ఫోరమ్‌లు ఉత్పాదక AI దాదాపు ప్రతి రంగంలోనూ ఉత్సాహంగా అవలంబించబడుతోంది, అయితే కార్పొరేట్ సిస్టమ్‌లను పరీక్షించే రెడ్ టీమ్ రైడర్‌లకు ఇది ఉపయోగకరంగా ఉందా అనే దానిపై సమాచార భద్రతా నిపుణులు విభజించబడ్డారు.
“రెడ్ టీమ్” ఇన్ఫోసెక్ నిపుణులను హానిని గుర్తించడానికి దాడులను అనుకరించటానికి అనుమతిస్తుంది. డెవలపర్‌లు రిపేర్ చేయగలిగిన కొన్ని సమస్యాత్మక ఫలితాలను ఇస్తారనే ఆశతో పెద్ద సంఖ్యలో ప్రాంప్ట్‌లతో వాటిని పేల్చడం ద్వారా ఉత్పాదక AI అప్లికేషన్‌ల పనితీరును పరీక్షించడానికి ఇది సాధారణంగా ఉపయోగించే వ్యూహం.
రెడ్ టీమ్‌లు AIని నియంత్రిస్తాయి మరియు పరీక్షిస్తాయి. మేలో, IBM యొక్క రెడ్ టీమ్ లెక్కించారు ది రికార్డ్ ఒక పెద్ద సాంకేతిక తయారీదారు యొక్క IT రంగంలో సమాచారాన్ని విశ్లేషించడానికి AIని ఉపయోగించారు మరియు విస్తృత ప్రాప్యతను అనుమతించే HR పోర్టల్‌లో లోపాన్ని కనుగొన్నారు. బిగ్ బ్లూ యొక్క రెడ్ టీమ్ AI ఈ లోపాన్ని కనుగొని తొలగించడానికి అవసరమైన సమయాన్ని తగ్గించిందని భావించింది.
ప్యానెల్ అంచనాలు
ఇండోనేషియాలోని ఇటీవలి Canalys APAC ఫోరమ్ రెడ్ టీమింగ్‌లో AI యొక్క ఉపయోగాన్ని పరిగణలోకి తీసుకోవడానికి ఒక ప్యానెల్‌ను ఏర్పాటు చేసింది, కానీ దానిపై ఆధారపడటం అంటే ఏమిటి – మరియు మరింత ముఖ్యంగా, దాని చట్టబద్ధత.
IBM APAC ఎకోసిస్టమ్ CTO పురుషోత్తమ షెనాయ్ రెడ్ టీమింగ్ కోసం AIని ఉపయోగించడం ఉపయోగకరంగా ఉంటుందని సూచించారు “వ్యవస్థను మీరే మరింత నైతిక మార్గంలో విచ్ఛిన్నం చేయడానికి.”
బహుళ డేటా ఫీడ్‌లు, అప్లికేషన్‌లు మరియు పనితీరు డేటా యొక్క ఇతర వనరుల ద్వారా మరియు పెద్ద-స్థాయి ఆటోమేటెడ్ వర్క్‌ఫ్లోలలో భాగంగా చేయడం ద్వారా AI ముప్పు వేటను వేగవంతం చేస్తుందని ఆయన అంచనా వేస్తున్నారు.
అయితే AI అడాప్టర్‌లు ఈ సిస్టమ్‌లను మరియు ఇతర AI అప్లికేషన్‌లను రూపొందించినప్పుడు, వారు ఎదురయ్యే నష్టాలను పరిగణనలోకి తీసుకోకుండా వారు క్లాసిక్ తప్పు చేస్తారని తాను ఆందోళన చెందుతున్నానని షెనాయ్ మాకు చెప్పారు.
“ఇది కొన్ని మానవ విధులను భర్తీ చేస్తుంది, కానీ మీరు వాటిపై ఎక్కువగా ఆధారపడకూడదు” అని సెక్యూరిటీ స్టోర్ eSentier కోసం APAC సేల్స్ పార్టనర్ ఎకోసిస్టమ్ GM మెర్ట్ ముస్తఫా అన్నారు.
డిస్ట్రిబ్యూటర్ సినెక్స్ యొక్క ఆస్ట్రేలియన్ కార్యకలాపాల క్లౌడ్ హెడ్ కుయో యోంగ్, ఉత్పాదక AI దాని ఫలితాలను ఎలా ఉత్పత్తి చేస్తుందో తరచుగా వివరించదని, రెడ్ టీమ్‌కు దాని చర్యలను వివరించడం కష్టతరం చేస్తుందని హెచ్చరించాడు – లేదా పాలనా నిపుణులు లేదా కోర్టు ముందు వాటిని సమర్థించండి. న్యాయం యొక్క. చట్టం.
“AI సాక్ష్యమివ్వదు మరియు బెదిరింపులను కనుగొనడానికి ఈ కార్యకలాపాలను ఎలా నిర్వహించిందో వివరించలేదు” అని యోంగ్ వివరించారు.
నేరస్థులు ఈ రకమైన చట్టపరమైన సమస్యల గురించి పట్టించుకోరు, కాబట్టి వారు తమ దాడులను శక్తివంతం చేయడానికి AIని ఉపయోగించే అవకాశం ఉంది.
కానాలిస్ ఈవెంట్‌లో వక్తలు AI సైబర్‌ సెక్యూరిటీని “మార్పు” చేస్తుందని సూచించారు.
“మేము మరింత ఎక్కువగా ఉపయోగించాలి,” ముస్తఫా చెప్పారు.
మరొక వక్త, గెలాక్సీ ఆఫీస్ ఆటోమేషన్‌లోని సైబర్‌సెక్యూరిటీ అండ్ నెట్‌వర్క్‌ల డైరెక్టర్, నిశాంత్ జలన్, అధిక వినియోగాన్ని నివారించడానికి సైబర్‌ సెక్యూరిటీలో జనరేటివ్ AI వినియోగంపై పరిమితులు ఉండాలని సూచించారు. అతను దానిని నియంత్రించడానికి నియమాలు మరియు విధానాలను కూడా సమర్థించాడు.
బహుశా స్థానాలు ముందుగానే ఉంటాయి
వీరి నుండి ఇతర నిపుణులు ది రికార్డ్ జెనరేటివ్ AI రెడ్ టీమ్‌లచే ఉపయోగించబడేంత పరిపక్వం చెందిందా అని అభ్యర్థించిన అభిప్రాయం ప్రశ్నించబడింది.
“భద్రతా కార్యకలాపాల కోసం Gen AI వినియోగం ప్రారంభ దశలో ఉంది. వినియోగ కేసులు అభివృద్ధి చెందుతాయి మరియు కొత్తవి ఉద్భవించబడతాయి, ”అని కెనాలిస్‌లోని విశ్లేషకుడు మాథ్యూ బాల్ అన్నారు. రికార్డు ఇమెయిల్ ద్వారా. వచ్చే ఏడాది ఈ అంశంపై మరిన్ని పరిశోధనలు చేయాలని కంపెనీ భావిస్తోంది.
సైబర్‌ సెక్యూరిటీ సంస్థ అక్రోనిస్ కెవిన్ రీడ్‌లోని CISO, రెడ్ టీమ్‌లలో చేరడానికి AI సిద్ధంగా లేదని తాను భావిస్తున్నానని, అయితే ఇది దాని సన్నిహిత బంధువులైన పెనెట్రేషన్ టెస్టర్‌లకు బాగా సరిపోతుందని మాకు చెప్పారు. “చొరబాటు పరీక్ష అనేది సిస్టమ్ లేదా నెట్‌వర్క్‌లోని దుర్బలత్వాలను కనుగొనడం, సాంకేతిక నియంత్రణలను పరీక్షించడం మరియు సాధారణంగా చాలా సూటిగా ఉంటుంది, అయితే రెడ్ టీమింగ్ సంస్థాగత నియంత్రణలను పరీక్షించడం మరియు గుర్తించబడకుండా ఉండటం” అని రీడ్ వివరించారు. “ఎల్‌ఎల్‌ఎమ్‌లు దానికి ఇంకా సిద్ధంగా లేవు. అవి పెన్ పరీక్షలకు బాగా సరిపోతాయి.”
బహుళ-దశల దాడి యొక్క నిర్దిష్ట దశలలో ఆదేశాలను అమలు చేయడంలో ఇప్పటికే జరుగుతున్న కొన్ని పెంటెస్ట్ ప్రయత్నాలు విజయవంతమయ్యాయని అతనికి తెలుసు – కానీ అవి పూర్తి ఆటోమేషన్‌తో పోరాడుతున్నాయి.
“ప్రస్తుత LLMలకు అవసరమైన అన్ని సందర్భాలను నిర్వహించడానికి తగినంత మెమరీ లేదని నేను భావిస్తున్నాను” అని అతను ముగించాడు.
అయితే ఇది చట్టబద్ధమైనదేనా?
చట్టబద్ధత విషయానికి వస్తే, సాంకేతిక-కేంద్రీకృత న్యాయ సంస్థ రీడ్ స్మిత్ భాగస్వామి అయిన బ్రయాన్ టాన్, పెంటెస్ట్‌ను నిర్వహించే ఉత్పాదక AIకి ఎవరు బాధ్యత వహిస్తారనేది సంబంధిత ప్రశ్న అని నమ్ముతారు?
పెంటెస్ట్ సేవను అందించే ఆపరేటర్‌పై బాధ్యత ఉంటుందని మీ అంచనా.
“ఇది ఆపరేటర్ (కంపెనీ లేదా దాని ఉద్యోగి అయినా) ప్రశ్నలకు సమాధానం ఇవ్వడానికి పిలవబడుతుందని కూడా అర్థం,” అన్నారాయన. అందువల్ల AI ఏమి చేస్తుందో ఆపరేటర్ ఖచ్చితంగా తెలుసుకోవాలి లేదా పారదర్శకత మరియు వివరణాత్మకత ఉండేలా కనీసం దానిని వివరించాలి.
AI నిబంధనల విషయానికొస్తే, అతను వాటిని “ప్రస్తుతం తాత్విక స్థాయిలో” పేర్కొన్నాడు. ప్రస్తుతం అనేక దేశాలు ఉన్నాయని ఆయన హైలైట్ చేశారు సాధారణ పెన్ పరీక్ష, అంటే ఈ చట్టాలు ఒక రోజు AIని కూడా పరిష్కరించేలా మారవచ్చు. ®
