AI가 암호파일을 읽을 수 있나요?

Question

최근에 많은 중소기업이 AI활용을 하기 위해 혈안이라고 들었습니다.저희회사도 그렇고요.그런데 이제 계약서나 개인정보들에 대한 내용도 AI에 물어보고 자문을 구하는 경우가 빈번하다보니, 이번에 상급자께서 아는 지인의 회사가 보안모듈을 개발자에게 시켜서 만들었다고 하더군요.핵심은 AI가 학습을 못하는 것이 핵심으로 보이는데, 파일을 암호화 처리해서 읽는다는게 어느정도로 가능한건지 도통 감이 안잡힙니다.AI가 특정 부분(개인정보, 계약내용)등에 대하여 학습을 막는건, 대화하면서 가이드를 주는 방식으로 하거나 .env 파일로 작성하거나 그런 방법이 있다고 들었습니다.어떤 방법으로 암호화를 시켜서 읽는다는 건지, AI이해도가 없는 분들 통해서 들으니 이해가 안됩니다.혹시 아시는 분 계신가요…?

allinux · Answer

대칭키 기반으로 암호화를 했다면 키가 없으면 복호화를 못합니다.즉 ai라도 역으로 대칭키를 알아낼 방법이 없으므로 복호암호화후 원본 확보가 어렵습니다.물론 ai가 brute attack 을 자동화 할 순 있겠습니다만 사람이 프로그램을 작성해서 돌리는 것과 같습니다.

catcode · Answer

파일을 암호화 해서 AI가 학습하지 못하게 하는 방식이 맞는건가요?암호화했는데, 읽을 수는 있다라.. 이해가 안됩니다. 혹시 마스킹해서 처리하는걸 말하는걸까요?AI학습을 방지하기 위해서 사내 로컬 LLM으로 구동하는건 들어봤어도 위 내용은 처음 들어봅니다

성실이 · Answer

지나가다 잘못된 답변이 달린 것 같아 몇마디 보탭니다.복호화없이 프로그램이 파일의 내용을 활용하는 방법이 있습니다.현대 암호가 대수학적 원리에 기반하고 있는 것은 다들 아실 겁니다. 암호화라는 것이 기본적으로 A 공간에서 B공간으로의 매핑입니다. 복화화는 B공간의 값을 다시 A공간으로 가져오는 것이죠. 하지만 오히려 A공간의 연산자를 B공간의 연산자로 바꿔서 B공간에서 값을 변환하는 방법도 존재합니다.동형 암호학, 영지식(zero knowledge), sk-snark, zocrates, 전자 투표 원리로 검색해 보시면 관련 지식을 얻으실 수 있습니다.일반 프로그램에 동형 암호학을 적용하는 것은 몇가지 문제가 있기는 합니다. 대표적인 예로 나누기 연산을 변환할 수 없습니다.하지만, 대부분 제약이 일반 프로그램을 벡터로 변환하는 쪽이고 일단 변환만 되면 큰 제약이 없습니다. ai모델의 경우 weighted value의 매트릭스이기 때문에 더 쉬울 수도 있을 것 같습니다.하지만, 개인적인 의견으로는 지인분이 제대로 못 만들었을 가능성이 높습니다. 이유는 다음과 같습니다.이해, 구현, 검증 난이도 높음. 현대 정수론과 대수학에 대해서 깊이 이해하고 있어야 하고, 크립토 스키마(수학적 원리를 기반으로 설계된 안전한 암호체계)를 설계해야 하고, 안전성 검증을 여러 기관에 인증받아야 합니다. 국내에 가능한 사람이 있을지 모르겠네요.연산량 처리비용 높음. zocrates에서 나와있는 예시가 전자 투표, 검색 엔진가 있는데, 검색 엔진 예제 마지막에 이런 글이 있습니다. “구글이 수집한 페이지를 암호화하고 검색 엔진을 암호화하면 사용자가 어떤 키워드로 검색했는지 구글조차 알 수 없는 사생활 보호가 되는 검색엔진을 만들 수 있다. 충분한 연산능력만 확보된다면…”. 이론적으로는 가능하지만 암호학에서 사용하는 연산들이 매우 비싼 연산이고 이 연산를 ai 모델에 적용하는 것이 현실적으로 가능할지 확신할 수 없네요.

천사와악마 · Answer

암호화 된 데이터와 해독본을 주고 복호화 알고리즘을 습득하라고 하면 가벼운 암호화 기법은 복호화 가능하지 않을까요?그런거 없이 하라고 하면 ai도 이 사실을 기억할 것입니다 ㅎㅎㅎ

edg · Answer

ai에게 양자컴퓨터가 쥐어진다면 그럴 수도 있겠죠. 하지만 양자컴퓨터가 PC처럼 쉽게 되는 것도 아닐텐데요. 아직은 괜찮습니다.

뿜뿜 · Answer

어떤 방식의 암호화 파일이냐에 따라서 복호화가 가능할 수도 있고 불가능 할 수도 있습니다.

사과맛오렌지 · Answer

사람은 파일을 읽을 수 있는데, AI는 못 읽는다면 사람에게만 암호키를 주고 AI에게는 안 주면 되겠지요.AI가 파일의 내용을 접근할 수 있는데, 학습은 못 한다?이건 암호화가 아니라 모델 정책의 영역 같습니다.윗분 말씀대로 동형 암호학을 잘 이용하면 복호화 없이 “데이터의 연산”은 가능하겠지만, 매우 어려울뿐더러 상당히 제한적일 것 같은 느낌이 드네요.그렇게 하느니 차라리 사용자의 데이터를 학습에 사용하지 않음이 보장되는 엔터프라이즈용 플랜을 구매하는 게 사용성 면에서도, 비용 면에서도 이득이 아닐까 생각도 듭니다.

AI가 암호파일을 읽을 수 있나요?

7개의 답변

#ai 목록