[100자평] 다크패턴의 비밀

다크패턴의 비밀 - 기만적인 온라인 설계는 어떻게 우리의 선택을 조종하는가
해리 브리그널 지음, 심태은 옮김 / 어크로스 / 2024년 4월

이 책에 나오는
대략의 내용을 알고 있으면,
모바일을 이용할 때
개인 차원에서 대응을 할 수 있어
조금은 덜 불편할 것 같아요.

˝최근 몇 년간 기만적 패턴이 사라지거나 줄어들지 않...

˝최근 몇 년간 기만적 패턴이 사라지거나 줄어들지 않았다˝고 합니다. ㅠㅠ

‘AI기반의 기만적 패턴‘에 대한 대응도 필요하다고 합니다.

(...) 그렇다고 해도 분류 체계는 절대적인 것이 아니라는 점만 명심하면 매우 유용한 분석 도구가 될 수 있다. 이 점을 가슴에 새기고 마투르 등이 2019년에 <대규모 다크패턴>에서 제시한 분류 체계를 살펴보자

은닉
- 장바구니에 몰래 넣기: 사용자의 동의 없이 장바구니에 추가로 제품을 넣는다.
- 숨겨진 비용: 이전에는 사용자에게 공개되지 않았던 비용을 결제 직전에 공개한다.
- 숨겨진 구독: 요금 1회 결제 또는 무료 체험을 전제로 사용자에게 반복적으로 요금을 청구한다.

긴급성
- 카운트다운 타이머: 카운트다운 타이머를 이용하여 사용자에게 가격을 제안하거나 세일이 곧 끝날 것이라고 알린다.
- 기간 한정 메시지: 사용자에게 가격을 제안하거나 세일이 곧 끝날 것임을 날짜를 정해서 알라지만 실제로 정해진 기한은 없다.

미스디렉션
- 감정적 선택 강요: 사용자가 특성한 선택을 하지 못하도록 언어와 감정(수치심)을 이용한다.
- 시각적 방해: 사용자가 특정한 선택을 하지 못하도록 스타일과 시각적 표현을 사용한다.
- 속임수 표현: 사용자가 특정한 선택을 하지 못하도록 헷갈리는 표현을 사용한다.
- 압박 판매: 더 비싼 제품을 미리 선택해 놓거나 사용자가 더 비싼 제품과 관련된 제품을 받아들이도록 압박한다.

사회적 증거
- 활동 메시지: 사용자에게 웹사이트 활용(예: 구매, 조회수, 방문자 수) 정보를 알린다.
- 후기: 제품 페이지에 출처가 불분명한 후기를 게시한다.

희소성
- 매진 임박 메시지: 사용자에게 구매 가능 수량이 한정적이라고 알림으로써 제품을 더 갖고 싶게 만든다.
- 주문 폭주 메시지: 사용자에게 해당 제품의 주문이 폭주하여 곧 매진될 가능성이 있다고 알림으로써 제품을 더 갖고 싶게 만든다.

방해
- 어려운 취소: 사용자가 서비스에 가입하기는 쉬우나 취소하기는 어렵게 만든다.

행동 강요
- 가입 강요: 원하는 작업을 완료하려면 계정을 만들거나 정보를 공유하도록 강요한다.

최근 몇 년간 기만적 패턴이 사라지거나 줄어들지 않았다는 점은 지금까지 해온 일이 효과가 없음을 의미한다. (...)
처음으로 기만적 패턴에 관해 글을 쓴 2010년에 나는 순진하게도 이 문제의 주요 원인이 인식 부족이라고 보았다. 교육, 윤리강령, 폭력, 자율 규제 정도면 충분하리라 생각했다. 그런데 현재 그 어느 때보다 기만적 패턴이 매우 광범위하게 퍼진 점을 고려하면, 이런 방식은 분명 효과가 없다.

최근에는 기만적 패턴이 법학자나 입법자, 규제당국의 ...

최근에는 기만적 패턴이 법학자나 입법자, 규제당국의 관심 분야로 떠올랐다. 따라서 이들은 관심 주제, 담당 지역에 관련된 법과 법률 용어를 중심으로 분류 체계를 만든다. 유럽개인정보보호위원회(European Data Protection Board, EDPB)의 경우, GDPR 규정과 관련하여 EU 내 소셜미디어 플랫폼의 개인정보 보호에 초첨을 맞추어 분류 체계를 만들었다. (...)

여기서 말하고자 하는 것은 다양한 분류 체계에 저마다의 목적이 있다는 점이다. 각각의 분류 체계를 비판하거나 업무에서 활용하기 전에, 어떤 것인지를 제대로 알아야 한다. 다양한 분류 체계에 관한 전체적인 분석을 살펴보고 싶다면 2022년에 OECD에서 펴낸 보고서 <다크 커머셜 패턴>(부속서 B) 또는 마투르/메이어/크시르사가르가 2021년에 발표한 보고서 <다크패턴을...다크하게 만드는 요소는 무엇인가?>를 읽으면 도움이 될 것이다.

행동 중독은 대개 사용자가 ‘존(zone)‘, 즉 시...

행동 중독은 대개 사용자가 ‘존(zone)‘, 즉 시간 가는 줄 모르고 온갖 걱정거리를 잊은 채 깊이 몰두하여 그 행동을 하는 상태에 빠지는 것과 관련이 있다. 인류학자 나타샤 다우 슐은 도박에 중독되었을 대 사람들이 찾는 것이 바로 이 존이라고 주장한다. 존에 들어가면 일상의 고민에서 벗어날 수 있기 때문이다.
이런 통찰력을 이용하여 사용자가 존에 들어갔을 때 방해하지 않도록 제품을 디자인하는 것도 가능하다. 요즘 대부분의 소셜미디어 제품에 적용된 무한 스크롤이 대표적이다. 무한 스크롤은 페이지 넘김 버튼으로 사용자를 방해하거나 살펴본 콘텐츠의 페이지가 얼마나 되는지 알려주지 않아도 되는 환경을 만들었다. 개발자 아자 래스킨은 무한 스크롤을 개발한 것을 후회했다. 2019년 인터뷰에서 그는 이렇게 말했다. "이게 어떻게 사용될지를 깊이 생각해보지 않은 점을 후회한다. (...) 디자이너로서 멈춤 신호를 없애면 상대방이 내가 원하는 행동을 할도록 만들 수 있다는 점을 알고 있다."

흥미롭게 읽고 있습니다. 제목은 <<De...

흥미롭게 읽고 있습니다.

제목은 <<Deceptive Design>>이에요.
이 저자는 ‘다크패턴 dark pattern‘이라는 용어를 만들고
이와 관련된 문제를 수면 위로 끌어올려
논의가 될 수 있도록 했다고 합니다.
2021년 미국에서
페이스북, 마이크로소프트, 애플의 CEO를
대상으로 청문회를 열었을 때도
‘다크패턴‘에 대한 논의가 오갔다고 합니다.

동물의 보호색도 ‘기만‘에 해당하지만
이는 생존에 관계된 영역이겠지요.
문어의 보호색도 그럴 거구요.
식물이 곤충을 잡아먹기 위한 장치도 그렇겠지요.

디지털에서 펼쳐지는 ‘다크패턴‘에 대해
우리는 얼마나 알고 이용하고 있을까요?
아마도 시간이 부족해서, 다른 할 일이 많아서
그저 나에게 제공되는 이런 서비스들을 그냥
이용하고 있을 겁니다.

그래도 길게 본다면,
인류의 역사를 길게 본다면,
누군가는 이런 속임수를 알아차리고
이에 대한 대응을 시스템으로 정립해주리라
그리고 우리를 보호해주리라 기대하게 됩니다.

작년부터는 AI가 더 큰 문제가 되고 있고,
최근 오픈AI에서 나와 보다 안전한 AI를 지향하며
새로운 회사를 차리는 일련의 흐름을 보자면
당장의 십년, 이십년이 걱정이 됩니다.
구글도 분명 1990년대 말과 지금은 아주 다른 회사니까요.
물론 무역센터 붕괴라는 사건도 있었지만요.

꾸준하게 많은 사람들이 인터넷과 소셜미디어의 중독,
온라인 커머스의 문제점에 대해
빅테크의 운영 방식의 문제점에 대해
문제 제기를 하고 있습니다.
더디지만 유럽과 미국에서는 법규제로 자리잡혀 가고 있구요.
물론, 유럽이 갖지 못한 디지털 패권을
규제를 통해서 지키려한다는 의견도 있지만,
그래도 인간의 존엄성을 기반으로 하는 유럽의 규제에
찬성합니다.
우리가 세상을 그렇게 빠르게 살 필요는 없으니까요.

이 책은 구글과 페이스북과 애플과 마이크로소프트와
같은 빅테크들 뿐 아니라
아주 소소한 디지털 웹페이지에서도
우리가 맞닥뜨릴 수 있는 위험에 대해 이야기 하고 있습니다.

잘 보고 있습니다.


* 관심있는 분이라면 저자가 만든
아래 사이트를 방문해보면 좋을 것 같아요.
deceptive.design

** ‘자원 고갈과 압박‘과 ‘지각의 취약성 이용하기‘,
‘의사결정의 취약성 이용하기‘와 ‘기대치 이용하기‘는
아직 분명하게 구분이 되지는 않습니다만,
좀 더 읽어보려고 합니다.

*** ‘눈알의 움직임‘과 ‘눈동자의 움직임‘은
어느 표현이 더 적확할까요?
‘눈동자‘가 있어야 볼 수 있으니까,
‘본다‘는 행위와 연관된 표현이라면
‘눈동자의 움직임‘이 더 맞을 것 같습니다.

콜린 M. 그레이 교수와 퍼듀 대학교 UXP2 연구소는 기만적 패턴으로 이어지는 착취적인 디자인 전략을 면밀하게 살펴본 최초의 연구진이다. (...)

- 지각의 취약성(제대로 보지 못한다) 이용하기: 인간은 정보에 관해 사고하기 전에 이를 지각부터 해야 한다. 인간의 지각이 완벽한 것은 아니므로, 이와 관련된 결점을 이용해 정보를 숨길 수 있다(예: 저대비, 작은 글씨).

- 이해의 취약성(제대로 읽지 않는다) 이용하기: 인간의 언어 능력, 수리력, 비판적 사고력, 기억력에는 한계가 있다. 착취적인 디자이너는 필요 이상을 복잡하게 제품을 만들 수 있다(예: 사용 약관을 장황하게 작성).

- 의사 결정의 취약성(비합리적으로 행동한다) 이용하기: 인지적 편향은 모든 인간이 사고할 때 발생하는 체계적인 오류이다. 의사 결정을 방해하는 데 이를 이용할 수 있다(예: 미리 선택된 확인란을 이용하여 디폴트 효과의 이점을 누림).

- 기대치 이용하기(예상한 대로 될 거라 믿는다): 유용한 디자인에는 사용자가 제품을 예측할 수 있도록 만드는 표준을 채택하는 것이 포함된다. 이런 표준을 무너뜨려 사용자를 속일 수 있다(예: ‘X‘ 버튼의 의미를 ‘아니요‘가 아니라 ‘예‘로 사용).

- 자원 고갈과 압박(시간과 주의력을 쉽게 빼앗긴다): 인간의 주의력, 에너지, 시간에는 한계가 있다. 이런 자원이 고갈되면 사용자는 포기하거나 압박과 피로감을 느껴 다른 속임수에 취약해질 수 있다(예: 쿠키 동의 대화창에서 선택 사항을 확인하고 거부하려면 노력이 많이 필요하므로 결국 사용자가 피로감을 느껴 포기).

- 강제와 차단(거부할 수 없는 상황에 가두기): ‘강제‘에는 사용자가 원하는 행동을 하기 전 단계에 거부할 수 없도록 필수 단계를 배치하는 것이 포함된다(예: 구매를 완료하려면 등록이 필수인 경우). ‘차단‘에는 기능을 아예 없애버리는 것이 포함된다(예: 사용자가 자기 데이터를 내보내지 못하도록 함).

- 감정의 취약성 이용하기(부정적 감정을 피하려 한다): 인간은 죄책감, 수치심, 공포나 후회 등 부정적인 감정을 겪고 싶어 하지 않으며, 이를 회피하려고 한다(예: 헬스클럽 과정 제안을 거부하려면 ‘괜찮습니다. 그냥 건강하지 않게 살래요‘라는 말을 클릭하게 만듦).

- 중독 이용하기(인간은 도파민의 노예다): 인간은 중독에 취약하다. 습관이 해로운 결과를 유발하고 점점 이를 중단하기 어려워지는 것이다. 이런 중독적인 습관 중에는 무제한 스크롤이다 자동 플레이 등의 디자인 기법으로 강화될 수 있는 행동 주기가 포함된다.


- <2부 다크패턴이 노리는 인간의 8가지 취약성> 중에서