pharmakon

thought, story and idea.

Latest

AI 인터페이스와 인간의 잃어버린 시간

최근에 챗GPT를 비롯한 LLM 서비스들이 사용자들의 질문에 비슷한 답변을 내놓으면서 사고의 외주화를 넘어 사고가 동질화 되고 있다는 우려가 나오고 있다. 이른바 인지적 표준화로 똑같은 서비스를 이용하는 사용자들의 사고방식이 점차 비슷해지는 현상을 말한다. 자동제어 인터페이스가 표준으로 정착되면 사용자들에게 대부분 똑같은 환경이 적용되고 인간의 기억과 자의식은 동질화 되기 시작한다. 이를 해결하기 위해서는

By pharmakon

AI 시대 인간 신체 존엄성의 쇠퇴

1991년 알프스 산맥의 빙하 지대 계곡의 얼음 속에서 발견된 미라는 무려 5300년전 태고 시절의 고대인으로 알려졌다. 미라로 변한 고대인이 가지고 있었던 소지품에는 불을 피우기 위한 부싯깃과 주머니칼, 로프가 있었다. 고대의 인간은 자신의 신체에 소지품을 결속하고 이동했다. 신체는 생존을 위한 일종의 운송 수단이었다. 인간의 신체는 과거부터 지금까지 가장 기초적인 운송 수단이다.

By pharmakon

AI 시대 진정한 위험은 무엇인가?

AI 시대가 본격적으로 시작되면서 위험이라는 개념이 다시 주목받고 있다. 지금 시대 위험의 개념은 재정의가 필요하다. 사실 모든 기술은 동전의 양면처럼 위험성을 가질수 밖에 없다. 하지만 최근 언급되고 있는 'AI 기술은 위험하다' 라는 말은 실체적 의미와 내용이 다소 모호해서 '너무 뛰어나서 위험하다'는 의미로 대중들에게 받아들여지기도 한다.

By pharmakon

LLM에 의해 불투명해지는 세계

물리적 현실세계에 존재하지 않는 또 다른 존재가 인간 대신 현실을 해석하고 판단하는 시대가 되고 있다. 최근에 사람들은 중요한 결정을 내리기전에 자신의 판단보다 LLM(대규모 언어모델) 의 답변을 더욱 신뢰하고 있다. 실제로 연구결과에 의하면 LLM이 내린 결정을 사람들은 70퍼센트 이상 그대로 현실에서 실행하는 모습을 보였다. 이렇게 되면 사람이 LLM를 사용하는것이 아니라

By pharmakon

LLM의 환각은 인간의 진실을 드러낸다

많은 사람들이 챗GPT와 같은 LLM(대규모 언어모델)을 이제는 일상적으로 사용하고 있다. "LLM은 실수할수도 있으니 중요한 내용은 다시 확인해야 한다."는 문장을 채팅창 하단에서 흔히 볼수 있다 . 이 문장은 생각보다 많은 사실을 포함하고 있다. 인간과 LLM의 관계의 진실을 드러내고 있기 때문이다. 전문가들은 장기적으로 LLM의 환각(Hallucination)이 해결

By pharmakon