Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

チャットで claude 3.5 sonnet v2 を使用していると 「エラーが発生しました。時間をおいて試してみてください。」 が発生する。 #770

Open
Masanori-Yokoyama opened this issue Dec 9, 2024 · 1 comment

Comments

@Masanori-Yokoyama
Copy link

Masanori-Yokoyama commented Dec 9, 2024

バグの説明
us.anthropic.claude-3-5-sonnet-20241022-v2:0 を使用してチャットを行っていると 「エラーが発生しました。時間をおいて試してみてください。」が頻繁に発生する。

再現手順

  1. 朝からチェットを開始。
  2. 同一のスレッドでチャットを繰り返す。
  3. 夕方ぐらいになると、エラーが発生する。
  4. 一度エラーが発生するとエラーは頻繁に発生する。
  • 時間をおいても治らない
  • ブラウザを全て閉じ、サインアウトしても治らない
  1. 何回か繰り返すと、回答を得られることもある。
  2. 新しいスレッドでは問題なく動作する。
  3. 翌日に同一スレッドでチャットを行ってもエラーが発生する。
@Kubota-Yoshiharu
Copy link

弊環境でも同様の事象が頻発しています。

  • Provisioned Throughput Model Units の上限緩和申請を行い、上限を緩和する
  • クロスリージョン推論を行う

などの対応があると思うのですが、
開発メンバ数人程度で使用しているだけで

ThrottlingException: Too many requests, please wait before trying again.

がすぐに発生してしまうのは、claude-3-5-sonnetの上限がそもそも低いということなのでしょうか?
上限緩和申請をしても受理されるまで時間が非常にかかるため、困っています。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants