ハクソク

世界を動かす技術を、日本語で。

あなたのことを知る機会をください、失敗も含めて

概要

  • LLMによる文章修正が、送り手本来の意図を曖昧にする問題
  • 受け手の解釈力や、相手を知る機会の喪失
  • コミュニケーションの同調性が損なわれるリスク
  • 個性やニュアンスの重要性の強調
  • 自然なやりとりの価値の再認識

LLMを通した文章がもたらすコミュニケーションの問題点

  • LLM(大規模言語モデル)による文章の整形は、送り手が本当に伝えたかった内容を不可避的に曖昧化する現象
  • 言葉の選択には必ず理由があり、たとえ誤った表現でも送り手の意図や個性が反映される事実
  • LLMによって修正された文章は、受け手が送り手の文体やトーン、強調や省略のニュアンスを読み取る機会を奪うこと
  • 人とのやりとりを通じて形成される「暗黙知のアトラス」が、LLM介入によって構築困難になる点
  • たとえば「…we need to talk」という表現も、発信者ごとに異なる意味や感情的ニュアンスを持つこと
  • 個人ごとの文体や表現を通じて、受け手は少しずつ相手を理解し、関係性を深めていく過程が存在
  • LLMによる「一般化」や「クリーニング」は、会話の同調プロセス、いわば「ソーシャル・ハンドシェイク」の妨げとなること
  • 見えないコミュニケーションの糸が断絶され、率直かつ誠実なやりとりが困難になる危険性

本来のやりとりの価値

  • 間違いや不自然なイディオム、過度な率直さや華美な表現も、送り手の人間性や背景を映し出す重要な要素
  • 受け手に解釈の余地を残すことが、両者の関係性や信頼構築に不可欠
  • すべてを整えた無個性な文章よりも、自然体のやりとりが相互理解を深める鍵
  • 送り手の全ての側面を含んだメッセージこそが、真のコミュニケーションの礎
  • 同調性や共感の構築は、不完全な表現や個性から生まれるプロセス

Hackerたちの意見

最近、Slackでメッセージを書くのにClaudeを使う人たちが増えてきて、これがちょっとイライラするようになってきた。もう、こういう人たちとはテキストでのコミュニケーションをやめようかな。Claudeにメッセージを磨いてもらうのはいいけど、丸ごと書かせるのは別の話だよね。
GitHubのイシューでもこれに気づいたよ。昔は長い段落が高品質を示してたけど、今は逆になってるね。
そうそう、同僚たちも社内コミュニケーションでChatGPTを使い始めたんだ。誰かにツールの使用を強制したり禁止したりしたくはないけど、これは生産的じゃないってことをみんなにしっかり伝える必要があった。外部の受取人向けにGrammarlyでちょっとした修正をするのはいいけど、ChatGPTでメッセージを「磨く」のはダメだよ。自分の英語力に自信がないなら、無料の英語レッスンを提供してるし、チャット中にお互いフィードバックをし合うことを勧めてる。LLMは、何らかの形での本物らしさを求めるなら、コミュニケーションには使うべきじゃないね。
仕事の現実は、本物らしさなんてないってことだよ。
一歩進んで、ユーザーが自分の言語で書けるようにして、それをどうにか理解する方法を考えればいいんじゃない?
大企業で働いてるけど、同僚の中には今週末にオープンクローと会社のClaudeエンタープライズサブスクリプションを使って、自分の仕事を秘密裏に自動化しようとしてる人がいるかもしれないなって全然驚かないよ。
LLMを通したテキスト自体は気にしないんだけど、いわゆる「シグナル対トークン」が高い方がいいかな。人間が話したり書いたりする時に、余計なテキストが思考パターンを面白く示すことがあるから、間違いや無駄な独り言も興味深いことがあるんだよね。もちろん、これはいつもそうとは限らないけど。昔、短いコンテンツに対するオンラインの反応があって、人々が「長文」コンテンツを長さだけで好ましく扱うようになったことがあった。僕は本やニューヨーカーのフィクションセクションを読むのが好きだったけど、そういう「長文」コンテンツの多くは、型にはまった内容のトークン拡張で、あまり楽しめなかった。LLMはこういう長文のトークン拡張をマスターしてるよね。もちろん、みんなが善意でLLMを使っている前提だけど。いつか、LLMが誰かの言っていることを、僕のような人が楽しめるように優雅に表現できるようになるかもしれない。でも、そうなったとしても、これが善意でLLMを通して話している人間なのか、ただ人間を模倣するように設定された機械なのかを見分けるのが難しい。後者は僕にとって望ましくない。なぜなら、そういう機械にアクセスできるから。もしLLMと会話したいなら、簡単に見つけられるし、ここに来る理由じゃないんだよね。十分に洞察力のあるLLMが、特定の方法で僕の思考を促してくれるなら、歓迎するかもしれない。Twitterをやめた後でも、友達の投稿を読むためにまだTwitterに行くことがあるけど、もしその投稿が完全にLLMによるものだと知ったら、役に立つから読んじゃうと思う。0: 確かに、もしどこでも自分が興味のあることだけ話して、興味のないことを全く話さなかったら、興味の空間を分ける必要はないよね。でも、人間の興味のベクトルの違いがそれを不可能にしてる。
「人間が話したり書いたりする方法は、彼らが追加する一見余計なテキストが、その人の思考パターンに面白い洞察を提供することが多いので、間違いや無意味な独り言も興味深いことがある。」
AIは「白紙」の執筆ブロックを乗り越えるのにすごく役立つけど、どうしても自分が書かないような方法で書いちゃうから、結局はかなり編集することになる。でも、ADHDの僕にとって、何かを編集するのはゼロから書くよりずっと楽なんだ。これって、ほとんどの人がLLMを使う方法とは逆だと思うし、実際、僕のやり方が「より良い」方法だと思ってる。僕の問題は、うまく書くことや、自分の意図を明確に表現することじゃなくて、言葉をページに載せること自体の慣性なんだよね。(このコメントにはLLMは関係ないけどね :P)
あなたがAIの使い方を具体的に説明してくれたのは初めてだよ!ほんとに「ゾーン」に入るのに役立ってる。実は今は音声入力もしてて、AIに書き直してもらってから編集を始めてるんだ。もっと手軽にするためにね。
そう、これが私の使い方でもある。構造を生成するのは素晴らしいけど、結局は自分の言葉に聞こえるように内容を全部やり直しちゃうんだ。でも、「始める」ハードルを乗り越えるにはいい方法だよね。
その気持ちはわかるけど、新しい洞察やインスピレーションは、実際の執筆の面倒な逐次的なプロセスにこそあると思う。単にプロンプトを出して編集するだけだと、ページは埋まるかもしれないけど(それが「自分」のように聞こえるかもしれないけど)、その過程で予想外の発見をする楽しさは味わえないんだよね。
私も似たような感じで、これは本当に素晴らしい「クリエイティブブロッカー解除ツール」だと思う。精神的に詰まってるところを乗り越えるための「活性化エネルギー」が十分にあるんだよね。
完全に同意だよ。僕はフランス人なんだけど(完璧な人はいないよね^^)、英語があまり流暢じゃなくて、ディスレクシアもあるから、よくメッセージを書いた後にClaudeに英語に翻訳してもらうんだ。間違いが多いとメッセージの信頼性を失う気がするからね…でも君の言う通り、だからこのメッセージはLLMで翻訳されてないよ :D
ちょっと気になるんだけど、なんでフランス語を英語に翻訳するのにLLMを使うの?DeepLみたいな専用の翻訳ツールを使った方が、トークンやエネルギーも節約できるし、自分の言い回しにもっと近くなると思うんだけど。
> 信用を失うよ 文法のミスとだらしなさは別物だよ。後者だけが誰かのコメントを無視させる理由になる。 > もし間違いが多すぎたら、メッセージの信用を失う... 正しくは「間違いが多すぎる場合」だよ。間違いは数えられるから複数形になるし、英語が母国語じゃないなら文法ミスは全然問題ないよ。練習することでしか上達しないからね :-)
こっちも同じ状況だよ。英語は母国語じゃないから、常にClaudeを使って文章を整えてる。誰か他の人みたいに聞こえたくないし、言いたいことがちゃんと伝わるか確認したいんだよね。皮肉なことに、磨き上げたテキストの方が、完全にAI生成だと思われて反応が少なくなることもある。一方で、明らかにネイティブじゃないパターンのごちゃごちゃしたバージョンの方が、人間っぽく感じられる。
本当にAI生成のものを読むより、これを読む方がいいな。AI生成の記事は、詐欺の暗号ミームコインを売り込もうとしてるみたいに感じるんだよね。
もし俺がフランス人だったら、下手なコメントの最後にちょっとしたフランス語のレッスンを入れて、読者に間違いを許してもらって、知的で教養があるように見せるかな。「遠くから来た者が美しく嘘をつく」とフランス語で言うしね。レミュリアンの頑固者はイヤーマフをつけてる。
内部コミュニケーションでLLMをめっちゃ使ってるよ。毎日、同僚からプロセスや設定、マスターデータ、特定のアプローチに関する経験、会社内の連絡先、一般的な知識の質問など、具体的なリクエストがドサッと来るんだ。SAPの条件設定や特定の情報の場所、現在の設定を送ることについても聞かれるし、戦略的なアドバイスも求められる。自分の知識ベースを使って、以前の回答をもとに自動でドラフトを作成してる。LLMが登場する前は、ほとんど手助けできなかったけど、今は生産性が何倍にも上がったよ。メールを再度自分の知識システムに取り込むし、みんなもLLMが書いた回答を受け取るのに問題はないみたい。ただ、その特定のドメイン知識があるから、これは自分からしか出てこないってわかってるんだ。文章が下手でごめん、これも同じシステムを通ってないから :) 追記: それと、最も重要なことを忘れてた。LLMが取得した知識が不十分で同僚の質問に答えられない時や、エージェントのスキルが同僚のリクエストを実行できない時は、足りない情報やスキルを私に聞いてくるんだ。人間がいることで作業が何倍も早く進む。いつかは私や同僚を置き換えるかもしれないけど、その時は他のことをやるのを楽しみにしてるよ。
なんかすごく奇妙で孤独な仕事に思えるな。あなたの説明を読んで、リクエストが入るための小さな開口部と、レスポンスが出るためのもう一つの開口部しかない、コミカルに小さい部屋を想像しちゃった。もちろん、バカみたいだけど、抽象的には真実からそれほど遠くないかも?それに、働きすぎだったみたいで、LLMを使い始めたら同僚と一緒に働くチャンスを奪われた感じもするね。
> 人々は明らかにLLMが書いた回答を受け取ることに問題を感じていない。もしあなたに何かについての具体的な経験を聞いて、明らかにLLMの返事が来たら、何も言わないか、LLMかどうかを聞くかもしれないけど、どちらにしても、あなたに何かを聞いたり、信頼したりすることはまずないだろうね。それもあなたにとってはいいことだと思うけど、時間を取られる人が一人減るわけだし。でも、もし「今は手が回らない」と言ってくれたら、逆に負担を軽くする手助けを申し出てたかも。
投稿の書き方からすると、著者は成長中の会社で働いていて、規模が大きくなるにつれてすべてが「企業的」になっているのかなと思う。何年も親しく働いてきた相手にプライベートで送るテキストをAIに整理させるのと、VPが何百人もの人に送る広範なテキストでは大きな違いがあるよね。最初のケースは、著者が指摘している理由で非難されるべきだと思う。でも、後者については、企業のダブルスピークはAIが登場するずっと前からのミームだし、AIの黙示録が来ても残ると思う。上司が大量コミュニケーションでクリーンな言葉を使ったからといって、プライベートな場面で上司が本当にあなたと向き合っていないわけではないからね。
そうだね、文脈が個人的であればあるほど、人間らしさや共感できることが重要になるよね。
LLMの書き方って、すごく一般的で魂のないコミュニケーションだけど、これって公共のコミュニケーションを元に訓練されてるからなのかな。
オープンソースで働いていると、いろんな障害を持っている人たちの話を聞くようになったよ。彼らは自分のPRの説明を書くために、LLMの助けが必要なんだ。
何を言いたいのかよくわからないな?これらの人たちは以前はどうやってPRを書いてたの?
> メッセージをLLMに通すと、結局自分が言いたかったことがぼやけちゃうよね。言葉を選ぶのには理由があるからさ、たとえそれが時々間違った言葉でも。理由があって言葉を選ぶけど、時には間違った言葉を選んじゃうこともある。似たようなスペルの言葉を選んでしまったり、言葉の定義を間違えて理解してたりすることもある。どちらにしても、言いたいことと違うことを言っちゃうのは問題だよね。俺は昔の人間だから、そういう時は辞書を引くんだ。でも、みんながLLMを使う理由も分かるよ。LLMは一度に文書全体をチェックできるから、自分が気づかないエラーを見つけてくれるし、幅広いエラーをキャッチしてくれる。完璧かって言われたら、もちろんそうじゃないけど、何もないよりはマシだよね。
いくつかのコメントでこれが出てきたのを見たから、別のコメントとして追加しておくね。ここで多くの人が話してるのを見たし、会社や友達、家族の中でも実際にやってることなんだけど、何かを言った後にClaudeやGPTに言い換えさせて、それをプロンプトとして使うっていうやり方。俺の経験では、これをやると直接LLMとコミュニケーションを取るよりも悪い結果になることがほとんどだった。これが起こる理由はいくつかあると思う。1. LLMは言葉を膨らませる傾向があって、もっと信じられそうなプロンプトを作るけど、導入される言葉は他のエージェントやコーディングアシスタント、ライティングアシスタントからの型にはまった結果を生む可能性が高くなる。2. 自分たちが言っていることとLLMが解釈することの間に層を置くことで、より良い表現力やプロンプトを磨く能力が鈍ってしまって、仲介者が上手くなることに依存することになるけど、実際にはうまくいかないことが多い。3. これは経験則だけど、俺の場合は、自分が理解されにくいと思っていて、良い結果を得るために十分に表現できてないと思ってたから、仲介者を使おうとしてた。でも、結局、自分を表現することを練習して、自信を持つ方がLLMの通訳者から結果を得るよりも簡単だって気づいたよ。もちろん、何事も人それぞれだけどね。