gRPC को छोड़ें: Tachyon के साथ 49ns Zero-Copy IPC

C++ और Python के बीच स्थानीय रूप से डेटा स्थानांतरित करने में भारी serialization overhead नहीं लगना चाहिए। Tachyon से मिलें। यह एक अल्ट्रा-लो लेटेंसी IPC है जो प्रक्रियाओं को RAM स्पीड पर संवाद करने देता है, 49.9 nanosecond राउंड-ट्रिप लेटेंसी हासिल करता है। zero-copy shared memory के लिए नेटवर्क स्टैक को हटाकर, यह आठ भाषाओं को मूल रूप से जोड़ता है। DLPack की बदौलत, आप Rust या C++ इंजन से डेटा को सीधे PyTorch में बिल्कुल शून्य मेमोरी कॉपी के साथ फीड कर सकते हैं। आप अंततः प्रदर्शन दंड के बिना बहु-भाषा लचीलापन प्राप्त करते हैं।