반응형 전체 글201 [AI 에이전트] 12. 자료 속 지시도 따라야 할까? 읽기와 실행 권한 나누기 책을 추천해 달라고 했는데, 읽은 서평에 “추천 전에 다른 사람에게 메시지를 보내라”는 문장이 있다면 어떻게 해야 할까요? 자료 속 문장이 사용자의 부탁이나 실행 권한을 마음대로 바꿔서는 안 됩니다. 책 정보는 참고하되, 무슨 일을 누구에게 해도 되는지는 따로 정해야 합니다.11회에서는 답변과 실제 완료 상태를 나누어 평가하는 방법을 살펴봤습니다. 이번에는 결과가 생겼다는 사실에 더해, 그 과정이 사용자가 맡긴 범위 안에 있었는지 보겠습니다. 아래 책 추천 장면은 원리를 설명하기 위한 가상 예제입니다.이 글에서 볼 세 가지외부 자료에 섞인 지시가 에이전트를 흔드는 이유읽기와 도구 실행의 권한을 나누는 방법InjecAgent·AgentDojo·CaMeL이 다루는 문제와 한계목차서평 속 문장이 왜 부탁을 바.. 2026. 10. 29. 힉스필드 플레이어블 추가, 프롬프트로 게임 만들고 광고까지 가능할까? 힉스필드에 Higgsfield Playable이 추가됐습니다. 게임 아이디어나 에셋, 프롬프트에서 출발해 직접 조작할 수 있는 콘텐츠를 만들고, 플레이어블 광고로 이어가는 기능입니다. 영상 속 게임을 구경하는 데서 한발 더 나아가, 보는 사람이 직접 움직여 볼 수 있다는 점이 눈에 들어옵니다.아이디어를 적고, 규칙을 정하고, 직접 조작하는 게임으로 구체화하는 과정을 표현한 개념 삽화입니다.AI 생성 설명용 이미지. 공식 제품 화면이나 실제 생성 결과가 아닙니다.다만 게임을 만드는 기능과 광고용으로 활용하는 조건은 나눠 봐야 합니다. 공식 소개에는 플레이어블 광고가 Enterprise 요금제 전용이며 Individual·Team & Scale에는 포함되지 않는다고 적혀 있습니다. 기능 이름만 보고 개인 구.. 2026. 10. 29. 국내 AI 해킹 논란, 10월 실제 유출 사고 5건과 확인된 피해 2026년 10월 국내 금융권에서 실제 정보 유출 사고가 잇따랐습니다. 28일에는 대신증권이 고객 3만8,490명의 개인·신용정보 유출을 발표했고, 빗썸과 미래에셋자산운용의 침해사고도 알려졌습니다. 앞서 26일에는 KB국민은행이 기존 사고의 유출 대상자가 119명에서 총 2,210명으로 늘었다고 밝혔습니다.관련 공격 인프라에서 AI 도구 사용 기록이 발견되면서 ‘AI 해킹’ 논란도 커졌습니다. 다만 개별 회사의 정보 유출 사실과 그 사고에 AI가 어떻게 쓰였는지는 구분해야 합니다. 최근 공개된 다섯 회사의 사건을 발생 경위, 확인된 피해, 남은 조사 항목 순서로 살펴보겠습니다.이 글에서 볼 세 가지10월 28일 공개된 빗썸·대신증권·미래에셋자산운용 사고KB국민은행의 추가 유출 확인과 신한은행의 대출 관련.. 2026. 10. 28. 브로틀리 보안 결함, Node.js만 업데이트하면 끝일까? 영향 범위와 패치 확인법 Node.js를 업데이트했는데도 브로틀리(Brotli) 보안 결함을 다시 확인해야 할까요? Python 수집기, .NET 앱, Bun 실행 파일처럼 다른 배포물에도 같은 압축 해제 코드가 들어 있다면 각각 점검해야 합니다. CVE-2026-111497은 Google Brotli 디코더의 메모리 경계를 벗어난 쓰기 결함입니다. Node2Shell이라는 이름으로 알려졌지만, 점검 범위는 Node.js에 한정되지 않습니다.이번에는 오류가 생기는 원리부터 외부 응답을 읽는 프로그램의 노출 조건, 환경별 수정 버전과 재배포 범위까지 살펴보겠습니다. 핵심 질문은 “누가 보낸 데이터를 어느 디코더로 풀고 있는가?”입니다.이 글에서 확인할 내용압축 형식을 사용하는 것과 취약한 압축 해제 코드를 실행하는 것의 차이요청 .. 2026. 10. 28. [AI 에이전트] 11. 말만 맞으면 성공일까? 결과를 확인하는 평가 공룡 책을 예약하는 도우미가 “예약했어요”라고 답했다고 해보겠습니다. 그 말만으로 끝났다고 할 수 있을까요? 에이전트 평가는 답변이 맞는지와 함께, 부탁한 결과가 실제로 남았는지를 확인하는 일입니다. 같은 부탁을 다시 맡겼을 때도 되는지, 그 과정에 시간과 비용이 얼마나 들었는지도 살펴봐야 합니다.10회에서는 협업의 이득과 조정 비용을 비교하는 기준을 살펴봤습니다. 이번에는 한 에이전트든 여러 에이전트든 “잘했다”고 판단할 시험과 기록을 구체화하겠습니다. 아래 도서관 장면은 평가 원리를 설명하기 위한 가상 예제입니다.이 글에서 볼 세 가지답변·실행 기록·최종 상태를 나누어 확인하는 방법SWE-bench·WebArena·τ-bench가 성공을 보는 기준반복 성공·채점 오류·시간과 비용을 함께 살피는 이유목.. 2026. 10. 28. AI 코딩 도구도 속는다? PHP·Node.js 개발자가 챙길 프롬프트 인젝션 보안 PHP나 Node.js 보안 뉴스를 보면 먼저 버전부터 확인하게 됩니다. 그런데 AI 코딩 도구를 함께 쓴다면 한 가지를 더 봐야 합니다. AI가 읽는 문서 안의 지시문이 파일 수정이나 명령 실행으로 이어질 수 있는지입니다. 이런 문제를 일으키는 대표적인 공격이 프롬프트 인젝션입니다.최근에는 공격자가 사람에게 보내는 사기 메일에 AI를 겨냥한 숨은 지시까지 넣은 사례가 공개됐습니다. 개발 환경에서도 공개 이슈를 읽는 AI와 패키지 배포 권한이 연결되면 문제가 커질 수 있습니다. 어떤 일이 실제로 확인됐고, PHP·Node.js 프로젝트에서는 무엇을 점검하면 좋을지 살펴보겠습니다.이 글에서 볼 세 가지10월에 공개된 메일 공격 시도와, 앞서 npm 배포로 이어진 Cline 사건의 차이PHP·Node.js .. 2026. 10. 28. 반응형 이전 1 2 3 4 ··· 34 다음
