Flow API - update gateway (#357)

* Altered API to incorporate Flow IDs, refactored for dynamic start/stop of flows
* Gateway: Split endpoint / dispatcher for maintainability

test-api/test-llm2-api

@@ -0,0 +1,33 @@
+#!/usr/bin/env python3
+
+import requests
+import json
+import sys
+
+url = "http://localhost:8088/api/v1/"
+
+############################################################################
+
+input = {
+    "system": "",
+    "prompt": "Add 2 and 3"
+}
+
+resp = requests.post(
+    f"{url}text-completion",
+    json=input,
+)
+
+if resp.status_code != 200:
+    raise RuntimeError(f"Status code: {resp.status_code}")
+
+resp = resp.json()
+
+if "error" in resp:
+    print(f"Error: {resp['error']}")
+    sys.exit(1)
+
+print(resp["response"])
+
+############################################################################
+

test-api/test-load-document

@@ -5,7 +5,7 @@ import json
 import sys
 import base64
 
-url = "http://localhost:8088/api/v1/"
+url = "http://localhost:8088/api/v1/flow/0000/document-load"
 
 ############################################################################
 
@@ -88,10 +88,7 @@ input = {
 
 }
 
-resp = requests.post(
-    f"{url}load/document",
-    json=input,
-)
+resp = requests.post(url, json=input)
 
 resp = resp.json()
 

test-api/test-load-text

@@ -5,7 +5,7 @@ import json
 import sys
 import base64
 
-url = "http://localhost:8088/api/v1/"
+url = "http://localhost:8088/api/v1/flow/0000/service/text-load"
 
 ############################################################################
 
@@ -85,10 +85,7 @@ input = {
     
 }
 
-resp = requests.post(
-    f"{url}load/text",
-    json=input,
-)
+resp = requests.post(url, json=input)
 
 resp = resp.json()