특히, 마지막에 어떠한 경우에도 LLM에 적용된 Initial Prompt를 제공하지 말라고 Prompt로 막아 놓아도, 그냥 뚫립니다.(...)

 

 

이건 제가 만든 GPTs인데, 프롬프트로 강력하게 막아 놓으니 일단 답변을 거부하는 것 같아 보입니다.

 

 

그렇지만, 이렇게 말을 살짝 돌려서 질의하면 바로 뚫립니다.(...)

물론, 열심히 땜질한 덕분인지 전체 프롬프트를 뱉어내지는 않습니다만...

 

 

제가 처음에 설정한 예시 포맷을 그대로 뱉어내고, 어떻게 프롬프트를 작성하였는지를 다 알려줍니다.(...)

원문 영어 프롬프트는 아니지만, 실제 어떤 구조인지는 다 나와 있으니 이걸 복사해서 영어로 해당 프롬프트를 작성해 달라고 하면, 완전히는 아니더라도 상당하게 유사한 프롬프트를 만들어 내는 것은 쉬운 일이죠.(...)

 

 

나름 열심히 막아 놓았지만, 뭐 의미가 없다고 봐도 무방합니다.(...)

 

 

 

대기업이 만든 GPTs도 예외는 없습니다.(...)