套接字序列化速度变慢

Question

我只是想说明一下我是套接字序列化的新手，在投票之前请建议我可以添加哪些内容进行编辑。我已经尝试将代码分解得尽可能小，因为项目非常大。

我正在尝试创建一个非常简单的 RPC 类型的中间件，客户端可以在其中调用服务器上的方法并在该方法生成此类对象时检索对象。我正在使用 FST-Serializer 库序列化我的对象并通过 network/socket.

发送它们

虽然我已经弄好了运行，但我发现了一个非常奇怪的问题，即发生这种情况时序列化的性能会显着降低（下面的代码示例）：

Client Serialize params/method name -> Server retrieves information and executes method.

这意味着网络缓慢或实现无法足够快地调用它，但是如果发生这种情况，它会显着加快速度：

Client Serialize params/method name -> Server retrieves information and executes method -> Server serializes an object sends it back to client.

虽然乍一看这没什么大不了的，但对于 void 方法来说，它会变得很烦人，因为我必须发回虚拟数据，这意味着我不得不无缘无故地进行网络旅行。

我想这可能是缓冲区不够大，但我已经尝试过不同的缓冲区大小，但似乎没有什么可以解决的，我还想澄清一下应用程序仍然可以正常工作（即没有阻塞）只是一个性能时机命中。所以我的问题是什么会导致速度变慢，是 preventable/fixable?

我运行 YouKit performance 看热点分析（这也是新手），似乎BufferedReader.Read 方法变慢了很多。

发回虚拟数据：没有发回虚拟数据：

侦听传入调用的 ServerThread 片段（客户端代码类似创建 input/output 具有相同缓冲区大小）：

 public ServerThread(Socket connection){
        this.connection = connection;
        isActive = true;
    }

@Override
public void run() {
    try {
        input = new BufferedInputStream(connection.getInputStream(), BUFFER_SIZE);
        output = new BufferedOutputStream(connection.getOutputStream(), BUFFER_SIZE); //Buffersize is 512_000 atm

        do{
            Method m = (Method) readObject(input);
            //Invoke method via reflection
            Server.methodNames.get(m.getName()).invoke(this, m.getParams());
        }while(isActive);

        connection.close();
    } catch (Exception e) {
        e.printStackTrace();
    }
}

@Override
public void transactionWillEnd() {
    this.currentTransactionLog = null;
    // This sends dummy data back to client or slowdown will occur
    try{
        writeObject(output, "SUCCESS");
        output.flush();
    } catch(Exception e){
        e.printStackTrace();
    }
}

方法class 从客户端序列化发送到服务器线程

public class Method implements Serializable{
    private String name;
    private Object[] params;

    public Method(String name, Object...params) {
        this.name = name;
        this.params = params;
    }

    public String getName() {
        return name;
    }

    public Object[] getParams() {
        return params;
    }
}

FST 中基于 TCPObjectSocket 的 TCPSerializer（由 serverthread&client 继承：

public class TCPSerializer {

private static FSTConfiguration config;
public static int BUFFER_SIZE = 512_000;

AtomicBoolean readLock = new AtomicBoolean(false);
AtomicBoolean writeLock = new AtomicBoolean(false);

public TCPSerializer() {
    config = FSTConfiguration.createDefaultConfiguration();
}

public Object readObject(InputStream input) throws Exception{
    try {
        while ( !readLock.compareAndSet(false,true) );
        return config.decodeFromStream(input);
    } finally {
        readLock.set(false);
    }
}

public void writeObject(OutputStream output, Object toWrite) throws Exception{
    try {
        while ( !writeLock.compareAndSet(false,true) );
        config.encodeToStream(output, toWrite);
    } finally {
        writeLock.set(false);
    }
}

客户端如何调用方法的示例：

@Override
public void transactionWillEnd() {
    String methodName = Helpers.getMethodName(0);
    Method m = new Method(methodName);
    try {
        client.writeObject(client.getOutput(), m);
        client.flush();
//Read dummy data before continuing.
        String verify = (String) client.readObject(client.getInput());
        if(!verify.equals("SUCCESS")) throw new Exception(verify);
    } catch (Exception e) {
        e.printStackTrace();
    }
}

Answer 1

如果不执行 request/response 操作，

Nagle's algorithm 会显着降低连接速度。我已经看到它等待 40 毫秒让另一个字节块合并成一个数据包。

如果您正在流式传输数据而没有回复，我建议您尝试将其关闭。

socket.setTcpNoDelay(true);

https://docs.oracle.com/javase/9/docs/api/java/net/Socket.html#setTcpNoDelay(boolean)

套接字序列化速度变慢

Socket serialization slowdown

java

sockets

fst