Karuiアプリアイコン

KN001:バックグラウンドでのAppleオンデバイスFoundation Modelのレート制限を計測する

Karui

バックグラウンドで動作するアプリに対するAppleのオンデバイスFoundation Modelsの制限と、Karuiの対処法。

2026年9月28日 · iOS 27.0 · iPhone 17 Proで計測

概要

Karuiは、iOS 27の新しい通知トリガーを使った、プライベートなiPhone向けの通知フィルターです。

iOS 27のショートカットのトリガー「通知を受信したとき」は、選んだアプリから通知が届くたびにオートメーションを実行します。Karuiのショートカットのオートメーションは、バックグラウンドで実行されるApp Intentを呼び出します。このインテントはプロンプトを作成し、LanguageModelSessionでガイド付き生成のリクエストを1回送ります。

let decision = try await session.respond(
    to: prompt,
    generating: TriageDecision.self
)

Karuiが画面に表示されているときは約4秒で完了しますが、バックグラウンドではリクエストが拒否されることがよくあります。

制限がバックグラウンドでのみ適用されることはAppleのドキュメントに記載されていますが、制限の大きさや回復の仕方は書かれていません。以下の計測値は、1台のiPhoneの数日分のログと、1か月分の履歴によるものです。

モデルのコンテキストウィンドウについては、AppleのTN3193が解説しています。本ノートでは、バックグラウンドでアプリが実際にどのくらいの頻度でモデルを使えるかを扱います。

制限の現れ方

拒否はrateLimitedの生成エラーとして35ミリ秒未満で返ります。モデルが実際に実行されたとは考えにくい短さです。このエラーについて、Appleのドキュメントには次のように書かれています。

“This error will only happen if your app is running in the background and exceeds the system defined rate limit.”

Karuiのログでは、パターンは一貫していました。短時間にまとまって受け付けられたあと、数時間にわたって拒否が続きます。

時間帯受け付けられた回数その後拒否された時間帯
22:37〜23:168回23:48〜05:13
14:44〜14:50約7回15:03〜16:59
17:54〜18:328回19:59〜21:49

すべて、iPhoneを充電していない状態でのバックグラウンドの呼び出しです。最初の夜は、深夜0時過ぎに8〜15秒かかった遅い呼び出しが3回だけ成功しました。

ある例では、74分の間隔をおいても拒否が続いたため、単純な1時間あたりの上限ではないと考えています。

1か月分の履歴

Karuiの履歴は、各通知を最初に分類したのが何だったかを記録しています。2026年9月20日から10月21日までの書き出しでは:

書き出しにはリクエスト時にKaruiが画面に表示されていたかどうかが含まれないため、受け付けられたリクエストの一部はフォアグラウンドのものだった可能性があり、その分、連続回数が実際より多く見えます。Karui 0.2.3からは分類ごとにアプリの状態を記録するので、今後の書き出しでは区別できます。また、拒否が続いた時間は次に受け付けられたリクエストまでで測っているため、通知が届いたタイミングにも左右されます。

拒否に影響した要因と影響しなかった要因

Karuiはモデルを呼び出すたびにデバイスの状態を記録しています。拒否は、iPhoneのロック中とロック解除中、熱状態が正常なとき、低電力モードがオフのとき、バッテリー残量60〜100%のときに発生しました。

Appleのドキュメントのとおり、Karuiを画面に表示した状態での呼び出しは影響を受けませんでした。

充電器につないだある夜は、01:30〜05:51のバックグラウンドの呼び出し10回がすべて成功しました。ただし1時間に約2回と間隔も空いていました。最初の拒否は、充電器から外した15分後でした。

その後のログでは、低電力モードでバッテリー残量20%のときにも、同じように20ミリ秒未満で失敗しました。

成功した呼び出しにかかった時間の中央値は、Karuiを画面に表示しているときで約3秒(19回)、バックグラウンドで約4秒(57回)でした。最も遅いものは12.5秒でした。

誤解を招く症状

エラーメッセージ

レート制限のエラーメッセージは、バックグラウンドではストリーミングではないリクエストを使うよう勧めています。ただ、Karuiはもともとストリーミングを使っていません。

実は中断だったタイムアウト

ある呼び出しは、20秒の制限に対して70秒後に「タイムアウト」しました。ContinuousClockはプロセスの中断中も時間を数え続けるため、呼び出しの途中でiOSがKaruiを中断していたのです。

その後のログでは、同じことがさらに大きな規模で起きていました。Karuiを画面に表示した状態で始まった2つの呼び出しが、25分後と46分後にタイムアウトしたと記録されました。どちらのタイムアウトも、iOSがKaruiを再開したのと同じミリ秒に記録されており、Karuiが再び動けるようになった時点で初めて制限時間の判定が行われたことが分かります。

その他の失敗

まれに、安全性レイヤーのセンシティブコンテンツ分析によるエラーで失敗することもあります。

対処法

モデルが拒否しても、Karuiはすべての通知を配信します。

  1. あらかじめ組み込まれたルールに切り替えます。決定論的な分類器がすぐに判定します。重要な連絡先、メンション、確認コード、緊急の語句は、モデルの実行前にすでにルールで判定されています。
  2. フォアグラウンドに戻ったときに再確認します。レート制限のためにルールで判定された通知には印が付き、次にKaruiを開いたときに分類し直されます。
  3. BGProcessingTaskを試します。Karuiはレート制限のあとにタスクを予約し、iOSは充電していなくても15分〜2時間後に実行しました。バックグラウンドタスクからの呼び出しに多くの枠が与えられるかは、まだ分かりません。
  4. Private Cloud Computeに、代わりにユーザーのショートカット経由で問い合わせます。分類のインテントがフラグと作成済みのプロンプトを返し、ショートカットの「モデルを使用」アクションがそのプロンプトをPrivate Cloud Computeに送り、2つ目のインテントが回答を反映します。Karuiのログでは、ある朝レート制限を受けた8件の通知すべてが、オンデバイスで拒否されてから2〜3秒で回答を得ました。Karuiでの詳しい仕組みはKN002をご覧ください。

Private Cloud Computeにもデバイスごとの上限があり、以前の「常に」モードでは約1時間15分で10件ほどのリクエストを送ったところで上限に達しました。KN002で、その上限とKaruiの停止の仕組みを解説しています。

この上限は、アプリ自身によるPrivate Cloud Computeの呼び出しにも適用されます。Karuiのオンデバイスモデルがレート制限されている間、PrivateCloudComputeLanguageModelへの直接の呼び出し64件はすべて数ミリ秒で拒否されましたが、ショートカット側の上限で動く「モデルを使用」ステップは半分以上に回答しました。この上限はショートカットで回避できます。測定結果はKN002をご覧ください。

改訂履歴

← 技術ノート一覧