HTTPS はHTTP over SSL/TLSです。最初に SSL/TLS 接続を確立し、その上で HTTP リクエストとレスポンスを交換します (プレーンな TCP 接続であるかのように)。
どちらの場合も SSL/TLS を使用したいので、独自のプロトコルを設計するか、既存のプロトコルを使用するかを尋ねているようです。
(openssl)ssl ftp ソケット サーバーを作成する必要がありますか?
SSL/TLS を使用して FTP を保護するには、複数の方法があります。それは確かに最も簡単な方法ではありません。
HTTPS サーバーを作成する必要がありますか? 別のものを作成する必要がありますか?
独自のプロトコルを設計するということは、各デバイスの実装を自分で提供する必要があることを意味します。HTTPS には、広くサポートされているという利点があります。基礎となる SSL/TLS API の多くを自分で使用する必要さえないはずです (OpenSSL API を学ぶ必要はありません)。唯一の要件は、証明書のセットアップなど、一部の SSL/TLS 構成について学習することです。
HTTP ヘッダーによるオーバーヘッドを削減することを考えている場合でも、少なくとも要求と応答の開始点と終了点を知るために、プロトコルは何らかの方法で同様のペイロード管理を実行する必要があります。
あなたの要件が何であるかは不明ですが、HTTPS の問題に本当に気付かない限り、JSON 文字列を既存のライブラリ (WCF など) と HTTPS で交換することは、他の提案よりも理にかなっています。