최근에는 기만적 패턴이 법학자나 입법자, 규제당국의 ...

최근에는 기만적 패턴이 법학자나 입법자, 규제당국의 관심 분야로 떠올랐다. 따라서 이들은 관심 주제, 담당 지역에 관련된 법과 법률 용어를 중심으로 분류 체계를 만든다. 유럽개인정보보호위원회(European Data Protection Board, EDPB)의 경우, GDPR 규정과 관련하여 EU 내 소셜미디어 플랫폼의 개인정보 보호에 초첨을 맞추어 분류 체계를 만들었다. (...)

여기서 말하고자 하는 것은 다양한 분류 체계에 저마다의 목적이 있다는 점이다. 각각의 분류 체계를 비판하거나 업무에서 활용하기 전에, 어떤 것인지를 제대로 알아야 한다. 다양한 분류 체계에 관한 전체적인 분석을 살펴보고 싶다면 2022년에 OECD에서 펴낸 보고서 <다크 커머셜 패턴>(부속서 B) 또는 마투르/메이어/크시르사가르가 2021년에 발표한 보고서 <다크패턴을...다크하게 만드는 요소는 무엇인가?>를 읽으면 도움이 될 것이다.

행동 중독은 대개 사용자가 ‘존(zone)‘, 즉 시...

행동 중독은 대개 사용자가 ‘존(zone)‘, 즉 시간 가는 줄 모르고 온갖 걱정거리를 잊은 채 깊이 몰두하여 그 행동을 하는 상태에 빠지는 것과 관련이 있다. 인류학자 나타샤 다우 슐은 도박에 중독되었을 대 사람들이 찾는 것이 바로 이 존이라고 주장한다. 존에 들어가면 일상의 고민에서 벗어날 수 있기 때문이다.
이런 통찰력을 이용하여 사용자가 존에 들어갔을 때 방해하지 않도록 제품을 디자인하는 것도 가능하다. 요즘 대부분의 소셜미디어 제품에 적용된 무한 스크롤이 대표적이다. 무한 스크롤은 페이지 넘김 버튼으로 사용자를 방해하거나 살펴본 콘텐츠의 페이지가 얼마나 되는지 알려주지 않아도 되는 환경을 만들었다. 개발자 아자 래스킨은 무한 스크롤을 개발한 것을 후회했다. 2019년 인터뷰에서 그는 이렇게 말했다. "이게 어떻게 사용될지를 깊이 생각해보지 않은 점을 후회한다. (...) 디자이너로서 멈춤 신호를 없애면 상대방이 내가 원하는 행동을 할도록 만들 수 있다는 점을 알고 있다."

흥미롭게 읽고 있습니다. 제목은 <<De...

흥미롭게 읽고 있습니다.

제목은 <<Deceptive Design>>이에요.
이 저자는 ‘다크패턴 dark pattern‘이라는 용어를 만들고
이와 관련된 문제를 수면 위로 끌어올려
논의가 될 수 있도록 했다고 합니다.
2021년 미국에서
페이스북, 마이크로소프트, 애플의 CEO를
대상으로 청문회를 열었을 때도
‘다크패턴‘에 대한 논의가 오갔다고 합니다.

동물의 보호색도 ‘기만‘에 해당하지만
이는 생존에 관계된 영역이겠지요.
문어의 보호색도 그럴 거구요.
식물이 곤충을 잡아먹기 위한 장치도 그렇겠지요.

디지털에서 펼쳐지는 ‘다크패턴‘에 대해
우리는 얼마나 알고 이용하고 있을까요?
아마도 시간이 부족해서, 다른 할 일이 많아서
그저 나에게 제공되는 이런 서비스들을 그냥
이용하고 있을 겁니다.

그래도 길게 본다면,
인류의 역사를 길게 본다면,
누군가는 이런 속임수를 알아차리고
이에 대한 대응을 시스템으로 정립해주리라
그리고 우리를 보호해주리라 기대하게 됩니다.

작년부터는 AI가 더 큰 문제가 되고 있고,
최근 오픈AI에서 나와 보다 안전한 AI를 지향하며
새로운 회사를 차리는 일련의 흐름을 보자면
당장의 십년, 이십년이 걱정이 됩니다.
구글도 분명 1990년대 말과 지금은 아주 다른 회사니까요.
물론 무역센터 붕괴라는 사건도 있었지만요.

꾸준하게 많은 사람들이 인터넷과 소셜미디어의 중독,
온라인 커머스의 문제점에 대해
빅테크의 운영 방식의 문제점에 대해
문제 제기를 하고 있습니다.
더디지만 유럽과 미국에서는 법규제로 자리잡혀 가고 있구요.
물론, 유럽이 갖지 못한 디지털 패권을
규제를 통해서 지키려한다는 의견도 있지만,
그래도 인간의 존엄성을 기반으로 하는 유럽의 규제에
찬성합니다.
우리가 세상을 그렇게 빠르게 살 필요는 없으니까요.

이 책은 구글과 페이스북과 애플과 마이크로소프트와
같은 빅테크들 뿐 아니라
아주 소소한 디지털 웹페이지에서도
우리가 맞닥뜨릴 수 있는 위험에 대해 이야기 하고 있습니다.

잘 보고 있습니다.


* 관심있는 분이라면 저자가 만든
아래 사이트를 방문해보면 좋을 것 같아요.
deceptive.design

** ‘자원 고갈과 압박‘과 ‘지각의 취약성 이용하기‘,
‘의사결정의 취약성 이용하기‘와 ‘기대치 이용하기‘는
아직 분명하게 구분이 되지는 않습니다만,
좀 더 읽어보려고 합니다.

*** ‘눈알의 움직임‘과 ‘눈동자의 움직임‘은
어느 표현이 더 적확할까요?
‘눈동자‘가 있어야 볼 수 있으니까,
‘본다‘는 행위와 연관된 표현이라면
‘눈동자의 움직임‘이 더 맞을 것 같습니다.

콜린 M. 그레이 교수와 퍼듀 대학교 UXP2 연구소는 기만적 패턴으로 이어지는 착취적인 디자인 전략을 면밀하게 살펴본 최초의 연구진이다. (...)

- 지각의 취약성(제대로 보지 못한다) 이용하기: 인간은 정보에 관해 사고하기 전에 이를 지각부터 해야 한다. 인간의 지각이 완벽한 것은 아니므로, 이와 관련된 결점을 이용해 정보를 숨길 수 있다(예: 저대비, 작은 글씨).

- 이해의 취약성(제대로 읽지 않는다) 이용하기: 인간의 언어 능력, 수리력, 비판적 사고력, 기억력에는 한계가 있다. 착취적인 디자이너는 필요 이상을 복잡하게 제품을 만들 수 있다(예: 사용 약관을 장황하게 작성).

- 의사 결정의 취약성(비합리적으로 행동한다) 이용하기: 인지적 편향은 모든 인간이 사고할 때 발생하는 체계적인 오류이다. 의사 결정을 방해하는 데 이를 이용할 수 있다(예: 미리 선택된 확인란을 이용하여 디폴트 효과의 이점을 누림).

- 기대치 이용하기(예상한 대로 될 거라 믿는다): 유용한 디자인에는 사용자가 제품을 예측할 수 있도록 만드는 표준을 채택하는 것이 포함된다. 이런 표준을 무너뜨려 사용자를 속일 수 있다(예: ‘X‘ 버튼의 의미를 ‘아니요‘가 아니라 ‘예‘로 사용).

- 자원 고갈과 압박(시간과 주의력을 쉽게 빼앗긴다): 인간의 주의력, 에너지, 시간에는 한계가 있다. 이런 자원이 고갈되면 사용자는 포기하거나 압박과 피로감을 느껴 다른 속임수에 취약해질 수 있다(예: 쿠키 동의 대화창에서 선택 사항을 확인하고 거부하려면 노력이 많이 필요하므로 결국 사용자가 피로감을 느껴 포기).

- 강제와 차단(거부할 수 없는 상황에 가두기): ‘강제‘에는 사용자가 원하는 행동을 하기 전 단계에 거부할 수 없도록 필수 단계를 배치하는 것이 포함된다(예: 구매를 완료하려면 등록이 필수인 경우). ‘차단‘에는 기능을 아예 없애버리는 것이 포함된다(예: 사용자가 자기 데이터를 내보내지 못하도록 함).

- 감정의 취약성 이용하기(부정적 감정을 피하려 한다): 인간은 죄책감, 수치심, 공포나 후회 등 부정적인 감정을 겪고 싶어 하지 않으며, 이를 회피하려고 한다(예: 헬스클럽 과정 제안을 거부하려면 ‘괜찮습니다. 그냥 건강하지 않게 살래요‘라는 말을 클릭하게 만듦).

- 중독 이용하기(인간은 도파민의 노예다): 인간은 중독에 취약하다. 습관이 해로운 결과를 유발하고 점점 이를 중단하기 어려워지는 것이다. 이런 중독적인 습관 중에는 무제한 스크롤이다 자동 플레이 등의 디자인 기법으로 강화될 수 있는 행동 주기가 포함된다.


- <2부 다크패턴이 노리는 인간의 8가지 취약성> 중에서

2023년에는 훨씬 광범위한 디지털시장법(DMA)과 ...

2023년에는 훨씬 광범위한 디지털시장법(DMA)과 디지털서비스법(DSA)이 발효되었다. DSA에서는 다음의 정의를 사용한다.

온라인 플랫폼 내 온라인 인터페이스의 다크패턴은 의도적으로 또는 사실상 서비스 이용자가 정보에 기반하여 자율적으로 선택하거나 결정할 능력을 물질적으로 왜곡 또는 손상하는 관행이다. 이런 관행은 서비스 이용자가 자기에게 부정적인 결과를 유발하는 원치 않는 행동을 하거나 원치 않는 결정을 내리도록 서비스 이용자를 설득하는 데 활용될 수 있다.

(...) 핵심은 사용자의 자율성, 선택, 의사 결정을 방해하지 않는 것이다.

시사인에 실린 진은영 시인의 인터뷰 기사에서 옮겨...

시사인에 실린
진은영 시인의 인터뷰 기사에서
옮겨놓습니다.

-----------------------
시사인: 한 인터뷰에서 재능의 위계 없이 많은 사람들이 작가가 될 것을 강조했다.

진 시인: 읽는 사람보다 쓰는 사람이 더 많다는 우려도 하던데 나는 좋은 현상이라고 생각하고 부추기고 싶다. ‘좋은 문학’이라는 범주 아래에는 전문가주의가 있다. 문학만 그런 게 아니고 생산자와 소비자를 가르는 전문가주의는 현대사회의 특징이기도 하다. 이건 다른 말로 소비자주의이기도 하다. ‘너희는 독자로 남아 있어, 당신들은 소비자로 남아 있어’라는 말이다.

시사인: 자신에 대해 말하고 쓰는 것이 의미 있는 일인가?

진 시인: 버지니아 울프는 ‘크레파스로 그림을 그리던 사람이 펜으로 자기를 그릴 수 있게 되는 게 문학’이라고 말했다. 크레파스 그림도 아름답지만 섬세한 선을 표현하기는 어렵다. 펜처럼 세밀하게 자기 존재를, 상심과 변덕, 절망을 드러낼 수 있는 것이 문학이라 생각한다. 무엇보다 문학을 한다는 것은 상당히 즐거운 일이다. 나는 시의 성김이 좋다. 시인 자신이 상상도 못한 수만 가지 감정을 여러 사람들이 하나의 시에 덧붙여준다. 사실 나는 사람들과 잘 못 만나는 사람이어서 그런지 시가 주는 이런 아름다움이 굉장하다고 생각한다.



https://www.sisain.co.kr/news/articleView.html?idxno=48496