1. ホーム
  2. ニュース・コラム
  3. 広告の増分は、測り方で符号まで変わる:GoogleとeBay、2つの公開実験の読み方

データと計測

広告の増分は、測り方で符号まで変わる:GoogleとeBay、2つの公開実験の読み方

同じ「広告を止めて増分を測る」実験が、逆の向きの結果を報告しています。Googleの実験では有料クリックの平均89%が増分(クリック基準・業種を横断した平均)、eBayの実験では短期のROIが−63%(売上基準・同社1社の実測)でした。矛盾ではなく、測っているものが違います。株式会社SaaTsuは、2つの公開実験の条件の差を1枚に並べ、自社の広告の増分をどの順で確かめるかを整理しました。広告費のどこから増分の検証を始めるかを決める。それがこの記事の目的です。

広告の増分(インクリメンタリティ)とは

広告の増分(インクリメンタリティ)とは、広告を出した場合と出さなかった場合の差分、つまり広告がなければ起きなかった成果のことです。増分、インクリメンタリティ、リフトなど呼び名は分かれますが、指しているものは同じ差分です。管理画面の成果には、広告がなくても起きた分が混ざります。増分を測るとは、その混ざりを実験で外すことです。

この記事で並べる2つの実験は、どちらも「広告を止めて、何が残るか」を見た公開実験です。片方はクリックが増分だったと報告し、もう片方は売上ベースの短期ROIがマイナスだったと報告しています。管理画面のROASの数字がどこまで事実か、という切り分けはROASの悪化の切り分けで扱いました。この記事はその次、「残った効率の数字に、増分はどれだけあるか」の話です。

なぜ同じ検索広告で、増分の符号まで割れるのか

1 Googleの実験:クリックの平均89%が増分

Google Researchの公式ブログは2011年7月21日に、Search Ads Pause Studiesという実験の結果を公開しました。広告を停止したアカウントを対象とする400件超の実験から、検索広告由来のクリックのうち、業種を横断した平均で89%は、広告を止めてもオーガニックのクリックでは置き換えられなかった、という報告です(Google Research Blog、2026年10月16日取得。英文は原文[2]に置いています。訳は私たちのものです)。この報告は約15年前のもので、測ったのは売上ではなくクリック、実験を行ったのは広告を販売する当事者であるGoogle自身です。つまり89%は「広告を止めたとき、オーガニックが肩代わりしない割合」であって、そのクリックが売上をどれだけ増やしたかは、この報告の範囲の外にあります。

2 eBayの実験:短期のROIは−63%

一方、eBayの研究チームとシカゴ大・UCバークレーの研究者は、eBay自身の検索広告を止める一連の大規模実験を行い、NBER(全米経済研究所)のWorking Paper 20171(2014年5月)として公開しました。査読を経た版はEconometrica誌(2015年1月、vol.83)に掲載されています。この論文は、従来型の回帰(OLS)で計算すると、検索広告のROIは時間と地域の統制なしで4,100%超、統制ありでも1,400%超に見える、と報告しています。一方、内生性を統制した実験の方法で測ると、短期のROIは−63%、95%信頼区間は−124%から−3%でした。このチャネルが正のリターンを生むという仮説は棄却される、というのが論文の結論です(NBER Working Paper 20171、p.5。2026年10月16日取得。英文は原文[1]に置いています。訳は私たちのものです。本稿のページ番号は誌面に印字された番号で、PDFの通しページとは2ページずれます)。

4,100%超と−63%は、同じ会社の同じ広告費を、別の方法で測った数字です。桁が変わったのではなく、符号が変わっています。発表は約12年前(Working Paper基準)ですが、この論文が示した「相関と因果の取り違えがROIの符号まで変える」という構造は、測り方の問題なので、広告の画面が変わっても残ります。

3 矛盾ではなく、測っているものが違う

2つの実験は、指標・対象・実施主体の3つが違います。Googleの89%はクリックの増分率で、広告を売る側が多数の広告主を横断して測った平均です。eBayの−63%は売上ベースの短期ROIで、広告を買う側の1社を研究者が測った実測です。クリックが増分でも、そのクリックが「広告がなくても買った人」のものなら、売上の増分にはなりません。どちらかが誤りなのではなく、別の問いに答えています。この整理は私たちのもので、両実験が互いに言及しているわけではありません。

同じ「止めて測る」実験で、何が違ったか 共通点:広告を止めて、増分(広告がなければ起きなかった分)を測った公開実験 Googleの実験(2011年) eBayの実験(WP 2014年/査読版 2015年) 測った指標 クリックの増分率 業種を横断した平均で89%が増分 売上ベースの短期ROI −63%(95%信頼区間 −124%〜−3%) 対象 広告を停止したアカウントを対象とする 400件超の実験(業種横断) eBay1社の自社広告の停止実験 (米国・著名ブランド) 実施主体 広告を販売する当事者である Google自身(社内の統計チーム) 広告を買う側のeBayの研究チームと 大学の研究者(査読論文) クリックが増分でも、その買い手が「広告がなくても買った人」なら、売上の増分にはならない 対比の並びは私たちの整理で、両実験が互いに言及しているわけではない
左はGoogle Research Blog(2011年7月21日公開、2026年10月16日取得)、右はNBER Working Paper 20171(2014年5月、2026年10月16日取得)。いずれも訳は私たちのもの。89%はクリックの増分率の業種を横断した平均、−63%は売上ベースの短期ROI。対比の並びは私たちの整理。

eBayの実験は、何を示したのか

1 ブランド語:止めたクリックの99.5%が自然検索に置き換わった

eBayは、自社ブランドに関連する検索語(ブランドキーワード)の広告をYahoo!とMSNで停止しました。論文は、ブランド語の有料検索を止めたことで失われたクリックのほぼすべて(99.5%)が、同じ検索プラットフォームの自然検索のクリックに即座に置き換わった、と報告しています(NBER Working Paper 20171、p.8。2026年10月16日取得)。ブランド語の検索では、その企業のサイトが通常は自然検索の最上位にある、という前提も論文に書かれています(同論文、p.4)。失われたクリックは全クリックの0.5%で、有料クリックの約1.5%にあたる、という補足も脚注にあります(同論文、p.8の脚注16)。要旨の言い方では、ブランドキーワード広告には測定可能な短期の効果がない、です(同論文、要旨ページ)。

2 ノンブランド語:止めても売上への効果は有意でなかった

ブランド語以外では、eBayの米国トラフィックの30%をランダムに抽出し、その範囲でノンブランドの全キーワードの入札を60日間止めました(NBER Working Paper 20171、p.4、2026年10月16日取得)。結果は、検索広告が売上に与えた効果はとても小さく、統計的に有意でなかった、というものです(同論文、p.4)。この売上ベースの結果と公開されている支出・収益のデータから計算されたのが、先ほどの短期ROI −63%(95%信頼区間 −124%〜−3%)です(同論文、p.21のTable 4)。

3 誰に効いたか:新規には効き、ヘビーユーザーには効かなかった

効果はユーザーによって割れています。論文は、検索広告が新規登録ユーザーの増加と、前年に1〜2点しか買わなかったユーザーの購入増加には統計的に有意に寄与した一方、それより頻繁に買う消費者の購買行動には有意な効果がなかった、としています。そして、有料検索の成果とされる売上の大部分をヘビーユーザーが占めるため、短期のROIが負になった、と説明しています(NBER Working Paper 20171、p.4、2026年10月16日取得。原文[1])。

平均が負でも、新規と低頻度のユーザーには効いていました。すでに知っている人の分が広告の成果として数えられていた、というのが負の平均の構造です。管理画面のROASが高い買付ほど、後者を多く含んでいる場合があります。

論文はこの割れ方を、広告は商品の特徴・場所・価格を知らない消費者に情報として届く、という広告観(informative view)と整合的だと位置づけています。そして、検索語なしで表示されるディスプレイ広告は、より説得的な役割を果たす可能性がある、とも述べています(同論文、p.4。可能性としての記述で、この論文がディスプレイ広告を測ったわけではありません)。

eBayの実験の3つの結果(いずれも短期の効果) 1 ブランド語 Yahoo!・MSNで停止 失われたクリックの99.5%が、自然検索のクリックに即座に置き換わった ブランド語では、その企業のサイトが通常は自然検索の最上位にある、という前提つき NBER Working Paper 20171 p.8・p.4、2026年10月16日取得。訳は私たちのもの 2 ノンブランド語 米国の30%・60日間停止 売上への効果は、とても小さく統計的に有意でなかった 公開されている支出・収益と合わせた短期ROIは −63%(95%信頼区間 −124%〜−3%) NBER Working Paper 20171 p.4・p.21 Table 4、2026年10月16日取得 3 誰に効いたか 利用頻度で分解 新規と前年1〜2点の購入者には有意な増加/頻繁に買う消費者には有意な効果なし 売上の大部分をヘビーユーザーが占めるため、平均の短期ROIが負になった NBER Working Paper 20171 p.4、2026年10月16日取得 3段の並びは私たちの整理。各数値の係り先は本文と「引用した原文」のとおり
eBayの実験の3つの結果(いずれも短期の効果。NBER Working Paper 20171、2026年10月16日取得。訳は私たちのもの)。99.5%はブランド語の停止で失われたクリックのうち自然検索に置き換わった割合で、売上の増分率ではない。3段の並びは私たちの整理。

あわせて押さえる言葉

① 増分(インクリメンタリティ)
広告を出した場合と出さなかった場合の差分です。管理画面の成果から、広告がなくても起きた分を外した残りを指します(この定義は私たちの整理です)。

② ポーズ実験(pause study)
広告を一時停止して、オーガニック側に何が置き換わるかを見る方法です。Googleの2011年の報告が、広告を停止したアカウントを対象とする400件超の実験でこの方法を使っています(Google Research Blog、2011年7月21日公開、2026年10月16日取得)。

③ 内生性(相関が因果に見える問題)
検索して買う人ほど広告もクリックするため、クリックと購買の相関が広告の効果に見える問題です。eBayの論文は、この統制の有無でROIの符号が変わることを示しています(NBER Working Paper 20171、p.5、2026年10月16日取得。訳は私たちのもの)。

④ ブランドキーワード
自社名やサービス名を含む検索語です。eBayの論文の要旨は、ブランドキーワード広告には測定可能な短期の効果がない、としています(NBER Working Paper 20171 要旨ページ、2026年10月16日取得。訳は私たちのもの)。

⑤ 差の差(difference-in-differences)
実験した地域と、しなかった地域の変化の差を比べる推定方法です。eBayのノンブランド語の実験が、この設計で売上への効果を測っています(NBER Working Paper 20171、p.4、2026年10月16日取得)。

自社の増分は、どの順で確かめるか

1 ROASの内訳を、新規と既存で分ける

ここからは2つの実験の記述ではなく、私たちのやり方です。最初に、広告経由とされる売上を、新規の買い手と既存の買い手に分けます。eBayの実験で効果が出たのは新規と低頻度のユーザーで、負の平均を作ったのは既存のヘビーユーザーの分でした。自社の管理画面のROASが既存の買い手で埋まっているなら、増分は画面の数字より小さい可能性を先に疑えます。分け方は、受注台帳の初回購入日を鍵に、広告経由とされる成果のうち既存の買い手の割合を月次で出すところからです。

2 ブランド語の買付から検証する

次に、ブランド語です。eBayの99.5%という置き換えには、著名ブランドで、自然検索の最上位に自社サイトがある、という条件が付いています。自社ブランド語の検索結果で自社サイトがどこに出るかをまず確かめ、そのうえで増分を測ります。検証の設計は、期間を区切った停止か、地域や対象の一部だけを止める方法が、2つの実験の型です。止めた期間は、失った有料クリックと、オーガニック側で増えたクリックを対で記録します。eBayのブランド語の実験が見たのは、この対の置き換わりでした。やめてよいかどうかは、この検証の結果が決めます。

3 止めずに測る設計に移す

全体を止める実験は売上側のリスクを伴うため、恒常的には、配信対象の一部に意図的に届けない除外グループで増分を見る設計に移します。作り方はホールドアウトグループで扱っています。その手前の、管理画面の数字がどこまで事実かという切り分けはROASの悪化の切り分けが前段です。

4 報告の列を分ける

最後に、報告の表では、管理画面のROAS(その画面が見た関与の記録)と、実験で推定した増分(広告がなければ起きなかった分)を、別の列に分けて置きます。1つの数字に寄せようとすると、4,100%超と−63%のように方法の差が符号の差になったとき、どちらの数字を信じるかの議論になります。列を分けて、予算の意思決定には増分の列を使う。この置き方は私たちの整理です。

獲得したあとの数字を、どこから見るか。論点だけ先に揃えます。
ご相談は営業を受ける場ではありません。一行でも構いませんし、フォームは7項目・3分で送れます。

30分の相談を申し込む

広告の増分について、よくある質問

GoogleとeBayの実験は、どちらが正しいのですか?

比べているものが違うので、どちらかを選ぶ話ではありません。Googleの89%はクリックの増分率の業種を横断した平均で、広告を販売する当事者の実験です(Google Research Blog、2011年7月21日公開、2026年10月16日取得。訳は私たちのもの)。eBayの−63%は売上ベースの短期ROI(95%信頼区間 −124%〜−3%)で、同社1社を研究者が測った査読論文の値です(NBER Working Paper 20171、2014年5月、p.5、2026年10月16日取得。訳は私たちのもの)。クリックが増えることと、売上が増えることは別です。

自社ブランド名のキーワード広告は、やめてもよいのですか?

eBayの実験では、ブランド語の広告を止めると失われたクリックの99.5%が自然検索に置き換わり、要旨は、ブランドキーワード広告には測定可能な短期の効果がない、としています(NBER Working Paper 20171、2014年5月、p.8と要旨ページ、2026年10月16日取得。訳は私たちのもの)。ただしこれは、著名ブランドで自然検索の最上位に自社サイトがあるeBayの条件での結果です。自社で期間や対象を区切って検証してから決める、が私たちの推奨です。

eBayの実験結果は、自社にも当てはまりますか?

論文自身が条件を付けています。著者らの推測どおり、結果が大部分の消費者の検討対象に入っている他の著名ブランドにも一般化されるなら、インターネット広告への支出の多くは効果のピークを超えている可能性がある、としています(NBER Working Paper 20171、2014年5月、p.5〜6、2026年10月16日取得。訳は私たちのもの)。知名度の低いブランドや新規ユーザーには正の効果が出ており、当てはまりはブランドの知られ方で変わります。

管理画面のROASと、実験のROIは、なぜここまで違うのですか?

検索して買う人ほど広告もクリックするため、相関が因果に見えるからです。eBayの論文では、従来型の回帰(OLS)だとROIが4,100%超(時間と地域の統制なし)や1,400%超(統制あり)に見え、実験で内生性を統制すると短期ROIは−63%でした(NBER Working Paper 20171、2014年5月、p.5、2026年10月16日取得。訳は私たちのもの)。計測の欠落で数字が小さく出る問題とは別の、数字が大きく見える側の問題です。

広告の増分は、実験をしないと測れませんか?

増分は「出さなかった場合」との差分なので、どこかに比較対象が要ります。2つの公開実験はどちらも止めて測る型でしたが、全体を止めずに、配信対象の一部に届けない除外グループを常設して測る方法があります(この使い分けは私たちの整理です)。管理画面のアトリビューションの数字は関与の記録であって、増分の推定とは別物として並べて読みます。

まとめ

広告の増分とは、広告を出した場合と出さなかった場合の差分です。同じ「止めて測る」公開実験でも、Googleの報告はクリックの増分率が業種を横断した平均で89%、eBayの論文は売上ベースの短期ROIが−63%(95%信頼区間 −124%〜−3%)と、向きの違う結果を報告しています。

割れた理由は、測っているものの違いです。クリックか売上か、業種横断の平均か1社の実測か、広告を売る当事者か買う側と研究者か。eBayの論文では、従来型の回帰(時間と地域の統制なし)で4,100%超に見えたROIが、実験では符号ごと変わりました。

eBayの実験の中身は3つです。ブランド語は止めても失われたクリックの99.5%が自然検索に置き換わり、ノンブランド語は売上への効果が有意でなく、効いていたのは新規と低頻度のユーザーでした。ヘビーユーザーの分が広告の成果として数えられていたことが、負の平均の中身です。論文はこの割れ方を、広告は知らない人に情報として届く、という広告観と整合的だとしています。

自社で確かめる順は、ROASの内訳を新規と既存で分ける、ブランド語から検証する、止めずに測る除外グループの設計に移す、報告の列を増分とそれ以外で分ける、の4段です。eBayの結果には著名ブランドという条件が付くので、当てはめる前に自社の条件を確かめます。

自社のROASのうち増分がどれだけあるかを分ける作業は、受注データと配信設定の両方に触れる必要があります。測定設計から入る場合は、データ基盤・MAで支援範囲を確認できます。

出典と、書けなかったこと

出典と注記を開く

出典

・Tom Blake, Chris Nosko, Steven Tadelis「Consumer Heterogeneity and Paid Search Effectiveness: A Large Scale Field Experiment」NBER Working Paper 20171(2014年5月)ページを見る(全文PDF:w20171.pdf) ── 要旨(ブランドキーワード広告に測定可能な短期の効果がない旨、有料検索のリターンが非実験的な従来推定の数分の一である旨)、p.4(米国トラフィックの30%でノンブランドの全キーワードを60日間停止した設計、売上への効果がとても小さく有意でなかった旨、新規・低頻度ユーザーへの有意な効果とヘビーユーザーに有意な効果がない旨、ブランド検索では企業サイトが通常は自然検索の最上位にある旨)、p.5(OLSでROIが4,100%超/1,400%超に見え、実験では−63%・95%信頼区間[−124%, −3%]である旨)、p.5〜6(著名ブランドへの一般化についての条件付きの記述)、p.8(ブランド語停止で失われたクリックの99.5%が自然検索に置き換わった旨)、p.21(Table 4のROI推定と、eBayのような著名ブランドでは検索連動型広告の有効性は限定的である旨)。ページ番号は誌面に印字された番号(PDFの通しページとは2ページずれます)。2014年5月発表で、この記事の取得日からは約12年前にあたります。2026年10月16日に全文PDF(35ページ)を取得
・査読版:同じ著者らによる Econometrica 掲載版、vol.83, pp.155-174(2015年1月)。書誌はNBERのページの記載によるもので、査読版の本文は参照していません
・Google Research Blog「Studies Show Search Ads Drive 89% Incremental Traffic」(2011年7月21日公開)ページを見るおよび同じ要旨の出版物ページ「Incremental Clicks Impact Of Search Advertising」(Google, Inc. 2011)ページを見る ── 広告を停止したアカウントを対象とする400件超の実験と、検索広告由来のクリックのうち業種を横断した平均で89%が広告停止後もオーガニックで置き換えられなかった旨。2011年の報告で、この記事の取得日からは約15年前にあたります。2026年10月16日に取得
・取得方法:NBERの全文PDFは2026年10月16日にコマンドラインで取得し、機械抽出したテキストを、PDF原本の該当ページを画像にしたものと突き合わせて読みました。Googleの2ページはブラウザで開いて本文テキストを取得しました。要約ツールは通していません。英語の逐語引用は「引用した原文」に英文のまま置き、訳はすべて私たちが行いました。

書けなかったこと

・eBayの結果の一般化は、論文自身が、著名で大部分の消費者の検討対象に入っているブランド、という条件付きで書いています。知名度の低いブランド・新興ブランドにそのまま当てはめていません。
・−63%の算出の前提(eBayの米国の年間有料検索支出を51百万ドルと算出したこと、粗収益2,880.64百万ドル)は本文で扱わず、原文のTable 4(p.21)とその前後の記述に委ねました。支出・収益とも公開情報から著者らが算出した値です。
・実験は2012年ごろの米国のeBayのもので、日本市場の値ではありません。検索結果の画面や広告の形式も当時と変わっています。構造(相関と因果の取り違え)を引き、当時の個別の金額は引いていません。
・測られたのはいずれも短期の効果です。要旨の「測定可能な短期の効果がない」の「短期」を、本文・図・FAQでも保持しています。長期のブランド効果はこの論文の測定対象外です。
・Googleの89%の実験の詳細設計(アカウントの選び方・期間)は、公開ブログと出版物ページの要旨に書かれている範囲しか確認していません。
・ブランド語の実験はYahoo!とMSNで行われ、論文はGoogleのプラットフォームでの複数のブランド語実験でも結果をさらに確かめた、としています(p.3〜4)。本文ではYahoo!とMSNの実験の数値だけを使いました。
・「ROASの内訳を新規と既存で分ける」「ブランド語から検証する」「止めずに測る設計に移す」「報告の列を分ける」という4段の順番は私たちの整理です。2つの実験がこの手順を書いているわけではありません。
・図1の対比と図2の3段の並びも私たちが置いたものです。各資料にこの図はありません。

引用した原文

原文を開く(2件)

[原文]引用した資料の記載

[1]Blake, Nosko, Tadelis「Consumer Heterogeneity and Paid Search Effectiveness: A Large Scale Field Experiment」NBER Working Paper 20171(2014年5月、2026年10月16日取得。英語原文のまま。訳は私たちのもの。ページ番号は誌面に印字された番号):要旨:“Because search clicks and purchase behavior are correlated, we show that returns from paid search are a fraction of conventional non-experimental estimates. As an extreme case, we show that brand-keyword ads have no measurable short-term benefits.” / p.4:“We designate a random sample of 30 percent of eBay’s U.S. traffic in which we stopped all bidding for all non-brand keywords for 60 days.” / p.4:“The non-brand keyword experiments show that SEM had a very small and statistically insignificant effect on sales.” / p.4:“We find that SEM accounted for a statistically significant increase in new registered users and purchases made by users who bought only one or two items the year before. For consumers who bought more frequently, SEM does not have a significant effect on their purchasing behavior. We calculate that the short-term returns on investment for SEM were negative because frequent eBay shoppers account for most of the sales attributed to paid search.” / p.4(広告観):“The heterogeneous response of different customer segments to SEM supports the informative view of advertising, which posits that advertising informs consumers of the characteristics, location and prices of products and services that they may otherwise be ignorant about.” / p.4(ディスプレイ広告):“It is possible that display ads, which appear on pages without direct consumer queries, may play more of a persuasive role, affecting the demand of people who are interested in certain topics.” / p.4(ブランド検索の前提):“branded search, where a firm’s website is usually in the top organic search slot” / p.5:“we calculate Return on Investment (ROI) using typical OLS methods, which result in a ROI of over 4,100% without time and geographic controls, and a ROI of over 1,400% with such controls. We then use our experimental methods that control for endogeneity to find a ROI of −63%, with a 95% confidence interval of [−124%,−3%], rejecting the hypothesis that the channel yields positive returns at all.” / p.5〜6:“If, as we suspect, our results generalize to other well known brands that are in most consumers’ consideration sets, then our study suggests that much of what is spent on internet advertising may be beyond the peak of its efficacy.” / p.8:“To test the substitution hypothesis, eBay halted advertising for its brand related terms on Yahoo! and MSN. The experiment revealed that almost all (99.5 percent) of the forgone click traffic from turning off brand keyword paid search was immediately captured by natural search traffic from the platform, in this case Bing.” / p.8 脚注16:“The 0.5 percent of all clicks lost represents about 1.5 percent of all paid clicks.” / p.21:“Our results show that for a well-known brand like eBay, the efficacy of SEM is limited at best.”

[2]Google Research Blog「Studies Show Search Ads Drive 89% Incremental Traffic」(2011年7月21日公開、2026年10月16日取得。英語原文のまま。訳は私たちのもの。同じ文面が出版物ページ「Incremental Clicks Impact Of Search Advertising」の要旨にもある):“Google statisticians recently ran over 400 studies on paused accounts to answer this question.” / 同ページ:“On average, the incremental ad clicks percentage across verticals is 89%. This means that a full 89% of the traffic generated by search ads is not replaced by organic clicks when ads are paused.”

執筆者

永野 陽平

お問い合わせ

御社の現在地を教えてください。

7つの質問で、御社の顧客がいま資産に変わっているかが分かります。
3分・登録不要。結果を見てからご相談いただけます。