当社は、ラボセンサーデータを大量に保持するためのファイル形式をしばらく検討してきました。インストルメンテーションを実行するたびに、ファイルが生成され、トレンド分析などのためにデータベースに保存されます。データを「グループ化」できるため、階層形式が推奨されます。これは、データをデータベースに配置する前の中間ファイル形式です。私たちの開発環境のため、これは私たちの優先リストです:
1).Net準拠。APIは、Webサービスとクライアントアプリケーションで使用されます。お客様の環境を管理することはできないため、pure.Netソリューションが最適です。
2)読み取りの速度。読み取りはランダムであり、順次ではありません。速いほど良い。私たちがC#開発ショップでなければ、スピードは1位だと思います。
3)ファイルサイズ。ファイル自体が大きい場合は、良好な圧縮率(86%以上)が望まれます。
4)読み取りのメモリフットプリント。データ量が多いため、単純に読み取ることはできません。各センサーには時間と値のペアがあります。これにより、400万ペアを超える意志が生成される可能性があります。これにより、XMLが不要になりました。
現在HDF5を調べたところ、APIが.NETの分野でひどく不足しており、Webサービスを実行できませんが、探しているサイズ/速度があります。JSONも調べたところ、有望に見えましたが、データの一部を読み戻そうとはしていません。Webを検索しましたが、必要なことを実行するファイル形式は多くありません。どんな助けでも大歓迎です。