▲ 김훈 리스크랩 연구소장(공학박사/기술사)     ©FPN

 

산업혁명 이후 인류는 기술을 성장과 번영의 엔진으로 받아들여 왔다. 증기기관은 생산력을 비약적으로 발전시켰고 전기는 신동력과 긴 작업시간을 제공했으며 자동화는 비용을 낮추고 표준화를 가능하게 했다.

 

정보기술은 세계를 실시간으로 연결했고 데이터는 새로운 자원이 됐다. 기술은 문제를 해결하는 수단이자 효율을 높이는 장치로 이해됐고 그 자체는 중립적이며 사용 방식에 따라 결과가 달라질 뿐이라는 생각이 오랜 지배적인 믿음이었다.

 

그러나 20세기 중반에 이르러 일부 연구자들은 이 전제에 질문을 던지기 시작한다. 기술은 단순한 도구가 아니라 도입되는 순간 조직의 권한 배분과 의사결정 구조, 보상 체계를 함께 재구성하는 무시무시한 힘이라는 점이 점차 드러났기 때문이다.

 

기술은 특정 행동을 강화하고 다른 선택지를 약화시키며 조직을 보이지 않는 방향으로 이동시킨다. 그래서 기술을 사용하는 동시에 조직은 다시 설계된다. 이 인식이 이때부터 본격화됐다.

 

그 중심에 에릭 트리스트(Eric Trist)가 있다. 그는 제2차 세계대전 이후 영국 탄광 산업을 연구하면서 최신 채굴 장비가 도입됐음에도 사고 위험과 조직 갈등이 오히려 증가하는 현상을 관찰했다.

 

기계는 개선됐지만 협업 구조는 흔들렸고 작업팀의 자율성은 약화됐다. 효율은 높아졌지만 시스템의 안정성은 함께 따라오지 않았다.

 

트리스트는 여기서 중요한 통찰에 도달한다. 기술은 결코 중립적이지 않으며 그것은 권한 구조와 보상 체계, 의사결정 방식과 결합될 때 조직을 특정 방향으로 이동시킨다는 것이다.

 

그는 사회기술 시스템(Socio-Technical Systems) 이론을 제시하며 조직을 기술 시스템과 사회 시스템이 결합된 통합 구조로 이해해야 한다고 주장했다.

 

기술을 최적화하면서 사회 구조를 그대로 두면 시스템은 균형을 잃는다. 효율은 상승할 수 있지만 안정성은 보장되지 않는다. 두 요소가 함께 설계되지 않으면 전체 시스템의 정합성은 점차 약화된다.

 

이 통찰은 21세기 IT 플랫폼 환경에서 더욱 분명해졌다. 소셜미디어 알고리즘은 참여율과 체류 시간을 극대화하도록 설계됐고 클릭과 공유, 반응과 체류 시간은 즉시 측정 가능한 지표로 환원됐다.

 

광고 수익은 그 지표와 직접 연결됐고 기술은 그 목표에 맞춰 정교하게 최적화됐다. 참여는 증가했고 수익은 확대됐다. 외형적으로는 성공처럼 보였다.

 

그러나 이 구조는 이용자에게 ‘보고 싶은 것’을 더 많이 보여주는 방식으로 작동했다. 과거의 검색이 사용자 질문에 반응하는 구조였다면 알고리즘은 사용자의 반응을 예측하고 강화하는 구조로 진화했다.

 

사용자가 선호할 가능성이 큰 정보, 기존 신념과 일치하는 콘텐츠, 감정 반응을 유발하는 자극적 메시지가 우선적으로 노출됐다. 그 결과 정보 환경은 점차 개인화됐고 서로 다른 현실 인식이 병렬적으로 형성되는 토양이 만들어졌다.

 

이러한 설계는 곧 부작용으로 이어졌다. 사회 시스템은 기술의 속도에 맞춰 재설계되지 않았고 알고리즘은 인간의 확증 편향과 분노 반응을 증폭시키는 방향으로 작동했다.

 

자극적인 콘텐츠는 더 많은 반응을 만들었고 그 반응은 다시 알고리즘을 강화하는 순환 구조를 형성했다. 기술은 목표를 충실히 달성했지만 공동체의 신뢰는 약화됐고 공론장은 점차 양극화됐다.

 

이를 단순히 윤리의 문제로 축소하기는 어렵다. 알고리즘은 오작동한 게 아니라 설정된 목표를 충실히 수행했을 뿐이다.

 

문제는 목표가 단선적이었다는 점이다. 참여 극대화라는 지표는 정교하게 관리됐지만 그 과정에서 시스템은 인간이 미처 충분히 고려하지 못한 방향으로 이동했다.

 

사회적 안정성과 장기적 신뢰는 설계의 중심 변수로 포함되지 않았고 기술 최적화는 빠르게 진행된 반면 사회적 피드백은 느리게 반영됐다. 그 시간차가 구조적 균열을 확대했다. 외형상 성장은 지속됐지만 내부 정합성은 점차 약화됐다.

 

이 흐름은 인공지능의 확산과 함께 더욱 복잡해질 것이다. AI는 이제 콘텐츠 추천을 넘어 채용, 신용평가, 의료 진단, 군사 의사결정에까지 활용되고 있다. AI는 우리가 설정한 목적 함수를 극단적으로 효율화하는 구조를 가진다.

 

만약 그 목적이 단기 성과와 비용 절감에 집중돼 있다면 AI는 그 편향을 더욱 빠르게 증폭시킬 것이다. 인간의 오류는 제한적 범위에 머무르지만 알고리즘의 오류는 구조적으로 확산될 수 있다. 자동화된 판단은 객관적으로 보일수록 책임의 경계를 흐릴 가능성도 있다.

 

이 지점에서 트리스트의 통찰은 다시 의미를 갖는다. 기술 도입은 단순한 효율성의 문제가 아니라 구조 설계의 문제다.

 

기술의 방향은 자연스럽게 결정되는 게 아니라 인간의 선택과 설계에 의해 규정된다. 기술을 도입하면서 권한 구조와 책임 체계를 함께 재설계하지 않으면 시스템은 효율적으로 불안정해질 수 있다.

 

AI는 윤리를 자동으로 계산하지 않으며 알고리즘은 사회적 균형을 스스로 보정하지 않는다. 기술은 우리가 설정한 목표를 가장 충실하게 증폭시킬 뿐이다.

 

산업혁명 이후 우리는 기술을 통해 성장해 왔다. 이제 질문은 달라진다. 우리는 무엇을 성장시키고 있는가. 기술은 여전히 번영의 엔진이 될 수 있다. 그러나 그 방향이 협소하다면 기술은 그 협소함을 더욱 강하게 확대한다.

 

결국 기술은 중립적이지 않다. 그것은 우리가 선택한 목적을 가장 정확하게 증폭시키는 구조적 힘이다. 그리고 그 결과를 감당할 준비가 돼 있는지 묻는 일은 이제 기술자의 영역을 넘어 사회 전체의 과제가 됐다.

 

김훈 리스크랩 연구소장(공학박사/기술사) 

 

※ 외부 필자의 기고 및 칼럼 등은 <FPN/소방방재신문> 편집 방향과 일치하지 않을 수 있습니다.

 

119플러스 웹진

소방전문 매거진 119플러스 웹진 과월호 보기

www.fpn119.co.kr/pdf/pdf-fpn119.html

네이버 스토어 구독 신청하기

국내 유일 소방전문 매거진 119플러스를 가장 빨리 만나는 방법!

smartstore.naver.com/fpn119

소방용품 정보를 한 눈에! '소방 디렉토리'

소방용품 품목별 제조, 공급 업체 정보를 알 수 있는 FPN의 온라인 디렉토리

www.fpn119.co.kr/town.html?html=town_list.html