Livy Docsのこのコードはうまくいきました:
LivyClient client = new LivyClientBuilder()
.setURI(new URI("http://sample.ru:8999"))
.build();
String piJar = "C:\\Users\\e.makrushin\\IdeaProjects\\untitled-maven\\out\\artifacts\\untitled_maven_jar\\untitled-maven.jar";
try {
String date = "2020.01.07";
System.err.printf("Job jar file %s uploading to the Spark context...\n", piJar);
client.uploadJar(new File(piJar)).get();
System.err.println("Job running at date " + date + " ...");
double cheques = client.submit(new ChequesJob(date)).get();
System.out.println("Job finished. " + cheques + " cheques found.");
} finally {
client.stop(true);
}
DevOps は Knox 経由で Livy ゲートウェイをルーティングしました。
<service role="LIVYSERVER" name="livy" version="0.1.0">
<routes>
<route path="/livy/v1/sessions">
<rewrite apply="LIVYSERVER/livy/addusername/inbound" to="request.body"/>
</route>
<route path="/livy/v1/**?**"/>
<route path="/livy/v1"/>
<route path="/livy/v1/"/>
</routes>
<dispatch classname="org.apache.knox.gateway.livy.LivyDispatch"/>
</service>
rewrite.xml:
<rules>
<rule name="LIVYSERVER/livy/user-name">
<rewrite template="{$username}"/>
</rule>
<rule dir="IN" name="LIVYSERVER/livy/root/inbound" pattern="*://*:*/**/livy/v1">
<rewrite template="{$serviceUrl[LIVYSERVER]}"/>
</rule>
<rule dir="IN" name="LIVYSERVER/livy/path/inbound" pattern="*://*:*/**/livy/v1/{path=**}?{**}">
<rewrite template="{$serviceUrl[LIVYSERVER]}/{path=**}?{**}"/>
</rule>
<filter name="LIVYSERVER/livy/addusername/inbound">
<content type="*/json">
<apply path="$.proxyUser" rule="LIVYSERVER/livy/user-name"/>
</content>
</filter>
</rules>rewrite template="{$serviceUrl[LIVYSERVER]}/"/>
</rule>
<rule dir="IN" name="LIVYSERVER/livy/inbound/path" pattern="*://*:*/**/livy/{**}">
<rewrite template="{$serviceUrl[LIVYSERVER]}/{**}"/>
</rule>
</rules>
Livy セッションのリストが https://knox-gateway:8443/gateway/default/livy/v1/session で利用できるようになりました
その後、予想どおり、このコードは機能しなくなりました。
Exception in thread "main" java.lang.RuntimeException: javax.net.ssl.SSLHandshakeException: PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException: unable to find valid certification path to requested target
at org.apache.livy.client.http.HttpClient.propagate(HttpClient.java:182)
at org.apache.livy.client.http.HttpClient.<init>(HttpClient.java:82)
at org.apache.livy.client.http.HttpClientFactory.createClient(HttpClientFactory.java:37)
at org.apache.livy.LivyClientBuilder.build(LivyClientBuilder.java:130)
at Main.main(Main.java:14)
プログラム API を使用した認証の設定に関する Livy のドキュメントには何も見つかりません。このコードを再び機能させるには、呼び出しコードまたは構成ファイルに何を追加すればよいですか?