Instagram、TikTok等廢除大數據“算法推薦”？
인스타그램이 ‘알고리즘 추천’을 폐지하고 앞으로는 게시물이 올라온 시간 순으로 게시물을 노출하기로 했다. 알고리즘 추천은 사용자가 평소 많이 보거나 ‘좋아요’를 누른 게시물을 기반으로 사용자가 선호할 것 같은 콘텐츠를 보여주는 방식. 페이스북과 유튜브 같은 대부분의 SNS와 인터넷 동영상 서비스가 이를 바탕으로 인기를 끌어왔다. 그러나 인스타그램을 시작으로 틱톡, 카카오 등이 알고리즘 추천을 폐지하겠다고 나섰다. 알고리즘으로 인터넷 세계를 평정한 기업들이 왜 알고리즘을 폐지하고 있는 걸까? 그 이유를 잡스엔이 알아봤다.
Instagram將廢止“Algorithm（算法推薦）”（可以理解爲“猜你喜歡”，大數據測算後推薦的內容），以後按照帖子上傳時間的順序公開帖子。 “算法推薦”是以用戶平時經常看或點讚的帖子爲基礎，展示用戶可能喜歡的內容的方式。 Facebook和YouTube等大部分SNS和網絡視頻服務以此爲基礎一直很受歡迎。 但是從Instagram開始，TikTok、Kakao等企業都表示要廢止“算法推薦”。 用“算法推薦”搞定網絡世界的企業爲什麼打算廢止這個功能呢？ jobsN瞭解到了原因所在。
알고리즘이 만든 필터
算法推薦打造的過濾器
인스타그램이 알고리즘 추천 기능을 도입한 건 2016년. 당시 대다수의 이용자들이 호기심을 보였다. 당시 ‘알 수 없는 알고리즘이 나를 여기로 이끌었다’, ‘남친보다 내 취향을 더 잘 아는 알고리즘’ 같은 말을 통해서도 그런 대중의 관심을 짐작할 수 있다. 그러나 자신의 취향과 맞지 않는 다른 이용자의 게시물과 업체 광고가 빈번하게 등장하기 시작하면서 일부 이용자들은 알고리즘 기반 콘텐츠들을 두고 ‘상업적이다’라거나 ‘공해’라며 비난하기 시작했다. 최근에는 알고리즘이 사람들을 양극화시키고, 보고 싶은 정보만 보게 한다는 주장도 끊이지 않고 있다. 일명 ‘필터버블’로 불리는 현상이다. 알고리즘 기반의 개인 맞춤형 정보 추천 기능은 이용자가 방대한 정보 가운데 일부 정보만 보게 만든다. 좋아하는 콘텐츠나 자주 보는 콘텐츠로 계속 데이터가 축적되면 사용자가 보지 않았던 다른 정보들은 사용자의 SNS에서 사라지게 된다. 결국 이용자는 기존에 관심 있어 했던 정보나 가치관 등에 부합하는 ‘편협된’ 정보만 보게 되는 것이다.
Instagram於2016年採用該功能。當時，大多數的用戶表現出了好奇心。當時通過一些言論可以猜測出大衆的關心，如“無法知曉的‘算法推薦’指引我來到這裏”，“‘算法推薦’比男朋友還了解我的喜好”。但是，隨着頻繁出現不符合自身喜好的內容及其他用戶的帖子、品牌廣告，一部分用戶開始指責以“算法推薦”爲基礎的內容很“商業化”、是“公害”。最近，不斷有人主張，“算法推薦”使人們兩極化，只看自己想看的信息。這種現象也稱爲“過濾泡沫”。基於算法推薦的個人針對性信息推薦功能，使用戶在龐大的信息中只看一部分信息。持續積累用戶喜歡的內容和經常看的內容，用戶不看的其他信息就從用戶的SNS中消失。最終用戶只能看到符合之前感興趣的信息或價值觀等的“狹隘”信息。
필터 버블은 편향성을 강화할 수 있는 악순환의 고리를 만든다. 점차 고정관념과 편견이 강해지면서 자신의 신념과 일치하는 정보는 받아들이고 그렇지 않은 정보는 무시하는 확증편향(confirmation bias)이 점점 심해진다. 확증편향은 더 편향적인 콘텐츠를 불러온다. 자칫 이용자가 SNS를 통해 보는 세상이 곧 전부라고 인식할 가능성이 크다.
過濾泡沫打造了強化偏向性的惡循環。漸漸地隨着固定觀念和偏見愈加強烈，接受與自身信念一致的信息，無視與之不符的信息，這種“驗證性偏見”漸漸變得嚴重。“驗證性偏見”帶來更加偏向性的內容。搞不好會令用戶認爲通過SNS看到的世界就是全部。
같은 사회에 살고 있으면서 한쪽의 세상만 보는 현상이 일어나게 되는 것이다. 가짜뉴스는 이러한 환경에서 더 잘 퍼지게 된다. 필터 버블은 단순히 개인의 편견이나 고정관념을 넘어 사회 전체에 나쁜 영향을 끼칠 수 있다. 문제가 발생하면 이를 같이 논의하고 각자의 이해관계를 공유하며 해결점을 찾아가는 것이 중요한데, 그릇되게 형성된 인식 관계는 이를 아예 불가능하게 만들 수도 있다. 무엇보다 필터 버블은 가시적으로 드러나지 않고 점차 진행된다는 점에서 개인이 깨닫지 못할 가능성이 크기 때문에 더 위험할 수 있다.
就會發生這樣的現象：生活在同一個世界中，卻只看到一部分世界。虛假新聞在這樣的環境中傳播得更快。過濾泡沫已經不單純是個人偏見或固定觀念，而是給整個社會帶去壞的影響。如果遇到問題，人們一起討論，共享利害關係，尋找解決方法，這很重要。然而，錯誤形成的認知關係使得上述過程變得不可能。最重要的是，過濾泡沫乍一看並不虛假，而是慢慢進行的，所以個人極有可能覺察不到這一點，因此更加危險。
알고리즘 조작의 실체
算法推薦造假的真相
이런 알고리즘의 폐해는 페이스북 전 직원의 내부 고발에서도 확인할 수 있다. 페이스북의 수석 프로덕트 매니저로 일했던 프랜시스 하우겐은 최근 페이스북이 지난 2018년 개별 사용자와 비슷한 생각 및 감정을 공유한 이들의 게시물이 더 많이 노출되도록 가중치를 부여하는 식의 알고리즘을 설계했다고 폭로했다. 그 결과 증오와 허위 정보, 극단적 콘텐츠와 양극화를 조장하는 환경을 만들었다는 것이다. 페이스북 자회사인 인스타그램도 10대 소녀들의 불안과 우울증, 그리고 자살 충동 증가에 영향을 미친다는 사실을 파악했지만 이를 묵인하고 오히려 13살 이하 아동을 대상으로 하는 인스타그램 개발을 진행했다고도 했다.
從Facebook全體職員的內部告發書中能確認到這種算法的弊端。最近，曾經的Facebook首席產品經理Haugen披露說，2018年Facebook設計了加權值式的算法推薦，與用戶擁有相似想法和感情的帖子能夠更多地暴露、共享出來。結果助長了滋生憎惡、虛假信息、極端化內容和兩極化的環境。Facebook的子公司Instagram雖然瞭解到這會對十幾歲青少年造成影響，增加他們的不安、憂鬱症、甚至自殺衝動。他們卻默認了這種影響，甚至開發了以13歲以下兒童爲對象的Instagram。
하우겐은 “알고리즘 때문에 중도 좌파는 극좌파로, 중도 우파는 극우파로 변하는 극단화 현상이 곳곳에서 드러나고 있다”고 했다. 알고리즘이 중도 우파에겐 극우 콘텐츠를, 중도 좌파에겐 극좌 콘텐츠를 추천해 일어날 수 있는 현상이다.
Haugen表示：“由於算法推薦，使得中間偏左派變成極左派，中間偏右派變爲極右派，如此極端化的現象處處可見”。甚至會發生向中間偏右派人羣推送極右派內容，向中間偏左派人羣推送極左派內容的現象。
내부고발 이후 페이스북은 검찰 조사를 받은 데 이어 인스타그램 대표가 의회 청문회에 출석하는 등 곤욕을 치렀다. 여론도 나빠졌다. 이에 페이스북은 알고리즘에 대한 부정적인 여론을 잠재우기 위해 2004년 창립 17년 만에 메타(Meta)로 사명을 변경하고 쇄신안을 내놓은 데 이어 인스타그램의 알고리즘 추천 기능을 없앴다.
內部告發事件發生後，Facebook接受了警察的調查，接着Instagram的代表出席了聽證會，受到侮辱。輿論也變差。對此，Facebook爲了平息有關“算法推薦”的否定性輿論，自2004年創立後，時隔17年將公司名稱改爲“Meta”，之後推出了改革政策，取消“算法推薦”功能。
매달 10억명 이상이 사용하는 동영상 플랫폼 틱톡도 알고리즘 문제에서 자유로울 수 없다. 틱톡이 맞춤형 콘텐츠 추천 알고리즘을 적용한 이후 사용자의 콘텐츠 시청 시간은 20배 증가했다. 또 기존 시청 콘텐츠와 유사한 콘텐츠를 추천하면서 사용자가 더 오랜 시간 플랫폼을 사용하도록 유도했다. 하지만 틱톡 알고리즘에는 한 가지 심각한 문제가 있다. 청소년들이 유해한 콘텐츠를 시청할 때도 계정 소유자의 나이와는 상관없이 유해 콘텐츠가 노출된다는 점이다.
每個月有10億以上用戶使用的視頻平臺TikTok也無法從“算法推薦”問題中脫身。TikTok採用針對性內容推薦“算法推薦”後，用戶觀看內容的時間增加了20倍。另外，隨着推薦與現在正收看內容相似的其他內容，誘導用戶更長時間地使用該平臺。但是，TikTok的“算法推薦”有一個非常嚴重的問題。那就是，收看對青少年有害的內容時並不分辨賬號所有人的年齡，這樣使得有害內容暴露給青少年。
예를 들어 청소년이 무리한 다이어트 영상이나 마약, 음란물과 관련된 콘텐츠를 본 경우 관련 콘텐츠가 계속 등장하면서 급속도로 확산된다. 월스트리트저널은 알고리즘은 기존에 시청한 콘텐츠와 유사한 콘텐츠를 불과 3~4분 만에 추천하며 헤어나올 수 없는 토끼굴로 사용자들을 몰아넣는다고 지적했다.
舉例來說，如果青少年看了過度減肥的視頻或是毒品、淫穢物等內容，那麼相關內容就會繼續登場，急速擴散。華爾街日報指出，“算法推薦”僅需3~4分鐘就可以推薦與用戶正收看的內容相似的其他內容，使用戶陷入無法自拔的漩渦。
틱톡은 청소년들에게 유해할 수 있는 콘텐츠의 노출을 줄이는 방향으로 추천 알고리즘을 조정하기로 했다. 틱톡은 아울러 사용자들에게 보고 싶거나 보길 원하지 않는 비디오를 선택할 권한을 강화한다.
TikTok調整了算法推薦，減少向青少年推送有害內容。TikTok同時強化了用戶選擇想看或不想看的視頻的權力。
국내서도 알고리즘 최소화 시작
韓國國內也將算法推薦功能最小化
국내에서도 알고리즘의 편향성을 최소화해야 한다는 의견이 나오고 있다. 네이버, 쿠팡, 카카오모빌리티 등 대표적인 대형 온라인 플랫폼 기업들은 알고리즘을 통해 검색∙추천 서비스 등을 제공하고 있다. 하지만 기업마다 자사에 유리한 방향으로 알고리즘을 조작한다는 의혹이 확산되면서 입점업체나 이용자들의 거센 반발을 사고 있다.
國內也有意見稱，應該將算法推薦的偏向性最小化。 Naver、Coupang、kakao mobility等代表性大型在線平臺企業通過算法提供搜索、推薦服務等。 但隨着各企業向有利於本公司的方向操縱算法的疑惑擴散開來，受到了入駐企業和用戶的強烈反對。
네이버는 2021년 검색 알고리즘을 조작해 자사 브랜드(PB) 상품을 상단에 노출한 문제로 공정거래위원회 제재를 받았다. 쿠팡 또한 같은 의혹으로 공정위가 조사에 착수했다. 카카오모빌리티 역시 알고리즘을 통해 택시 콜을 배차하는데, 이 알고리즘을 조작해 가까운 거리에 있는 일반택시가 아니라 멀리 있는 가맹 택시인 카카오T블루에 우선 배차했다는 의혹을 받아 공정위 조사를 받았다.
Naver2021年操縱檢索算法推薦功能，使得本公司品牌(PB)更多地出現，受到了公正交易委員會的制裁。Coupang也因同樣的疑惑被公正交易委員會調查。kakao mobility則通過算法推薦調配呼叫出租車，操縱算法推薦，使得用戶呼叫不到近處的普通出租車，而是優先分配遠處的加盟出租者，即kakao T BLUE，由於這種疑惑，同樣受到了公正交易委員會的調查。
이런 폐해들이 불거지면서 국내에서도 알고리즘의 편향성과 조작 방지를 위한 법안이 발의되고 있다.
隨着由此產生的損害越來越大，國內也提出了防止算法推薦的偏向性和造假的法案。
이런 가운데 카카오가 2022년부터 다음 뉴스의 인공지능 알고리즘 편집을 폐지하기로 했다. 카카오는 1월 중순 모바일을 시작으로 상반기에는 PC까지 ‘다음 뉴스’를 개편한다. 이에 따라 기존 알고리즘 추천 및 랭킹 방식은 종료되고 이용자가 직접 언론사를 선택할 수 있는 ‘구독형’ 서비스가 도입된다.
在這種情況下，kakao從2022年開始決定廢除Daum新聞的人工智能算法推薦編輯功能。kakao從1月中旬開始以手機版爲起點，在上半年完成乃至電腦端的“Daum 新聞”的改版。因此，將結束現有的算法推薦及排名方式，並引入用戶可以直接選擇媒體的“訂閱型”服務。
重點詞彙
빈번하다【形容詞】頻繁、頻頻
도입하다【動詞】採用、投入、引入
이해관계【名詞】利害關係
가중치【名詞】加權值
착수하다【動詞】着手、開始
重點語法
-지 못하다
用於動詞詞幹後，表示客觀否定，是因爲能力不夠或外界的原因，而使行動不可能實現。相當於漢語的“...不能”。
일이 많아서 쉬지 못합니다.
因爲事情多,不能休息。
김치는 맵기 때문에 먹지 못합니다.
泡菜辣,不能吃。
-거나
連接詞尾，連接兩種或兩種以上的動作或狀態,而只選擇其中的一項。相當於漢語的“或”、“還是”。
주말에는 친구를 만나거나 영화를 봅니다.
週末或者與朋友見面或者去看電影。
노래를 하거나 음악을 들으면 기분이 좋습니다.
聽歌曲或聽音樂心情便會好。
相關閱讀：
因戲生情，這對韓國情侶公開戀愛後“大秀恩愛”
盤點戀愛後光速分手的情侶
盤點戀愛長跑後分手與別人閃婚的明星
本翻譯爲滬江韓語原創，嚴禁轉載
