Azure OpenAIで回答履歴保持の実装をするにあたって

Question

従来のChatGPTのように、回答履歴を保存し、過去のやり取りを参考にしてユーザーそれぞれに特化したチャットボットを作成したいと考えています。

本サービスでは、おおよそ2万人が利用することを想定しています。

以下の観点について、ご教授いただけないでしょうか。

・大人数の回答履歴をデータベースに保存し、各ユーザーごとに回答履歴を活用してチャットボットを利用することはできるでしょうか。ChatGPTのように、画面左側に過去のやり取りがスレッド形式で表示されるような実装イメージを考えています。

また、データベース構成としては、ユーザーごとに紐づくチャット履歴を保持し、それを参照するような実装だと考えたのですが、2万人かそれ以上の人が同時に同じことをする場合、データ量が膨大になってしまって制限がかかってしまうなどといった懸念があれば教えていただきたいです。

回答いただけますと幸いです。よろしくお願いいたします。