前言

走到現在，其實應該有一個意識了，針對數據接收端，需要Netty從底層網絡接口中讀取數據，然后將數據讀取到ByteBuf，這個時候依舊是二進制數據，但是有時候我們需要將二進制轉換成對象。針對數據發送端，如果發送的是JavaBean對象，則需要將對象轉換成二進制數據流發送到網絡底層，這就涉及到Netty的編碼器和解碼器的內容，同時針對JavaBean的序列化，又涉及到集成第三方序列化組件的問題。同時這一篇開始，測試不再寫完整的服務端和客戶端了，通過 EmbeddedChannel進行測試。

解碼器

其實關于解碼器，我們在上一篇博客中已經接觸過了，Netty粘包與拆包。其中用到了LineBasedFrameDecoder，DelimiterBasedFrameDecoder，FixedLengthFrameDecoder三種解碼器，其不同的解碼方式，給粘包拆包提供了不同的解決方案。

ByteToMessageDecoder解碼器

這些都是Netty給我們提供的開箱即用的解碼器，但是這幾個類有都繼承于一個類，可以通過類的組成結構圖查看繼承關系。可以看到ByteToMessageDecoder是三種解碼器的基類，同時該類也繼承了ChannelInboundHandler.

ByteToMessageDecoder解碼器解碼流程其實也和普通的handler差不多，甚至可以簡單的理解為該解碼器就是pipeline中一個普通的handler。ByteToMessageDecoder的解碼流程可以描述為：首先，將上一個Handler傳遞過來的數據輸入到ByteBuf中的數據進行解碼，解碼出一個List對象列表。然后，迭代這個集合列表，逐個將解碼之后的對象傳入到下一個入站處理器。

ByteToMessageDecoder是一個抽象類，具體的解碼方法decode交給了具體的子類去實現。如果我們要自定義解碼器，可以直接繼承ByteToMessageDecoder，然后復寫其中的decode方法即可。

實例

自定義一個解碼器和Handler

/**
 * autor:liman
 * createtime:2020/9/25
 * comment:自定義的解碼器，String解碼器，將byte中的數據，按位轉換成String
 */
@Slf4j
public class IntValuePlus100Decoder extends ByteToMessageDecoder {
    @Override
    protected void decode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws Exception {
        int i = in.readInt();
        i = i + 100; //加100，可以看作是個解碼操作
        out.add(i);
        log.info("解碼之后的數據為:{}", i);
    }
}

/**
 * autor:liman
 * createtime:2020/9/25
 * comment:簡單的業務處理，這里接受解碼之后的數據
 */
@Slf4j
public class Byte2CharStringHandler extends ChannelInboundHandlerAdapter {

    @Override
    public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
        log.info("處理解碼之后的數據為：{}",msg);
    }
}

測試代碼

@Test
public void testAdd100Decoder(){
    ChannelInitializer testChannel = new ChannelInitializer<EmbeddedChannel>() {
        @Override
        protected void initChannel(EmbeddedChannel ch) throws Exception {
            ch.pipeline().addLast(new IntValuePlus100Decoder());
            ch.pipeline().addLast(new Byte2CharStringHandler());
        }
    };

    //將我們定義的channelInit傳遞給EmbeddedChannel
    EmbeddedChannel embeddedChannel = new EmbeddedChannel(testChannel);
    int paramValue = new Random().nextInt(39);
    log.info("客戶端即將要發送的int數據為:{}",paramValue);
    ByteBuf buf = Unpooled.buffer();
    buf.writeInt(paramValue);
    embeddedChannel.writeInbound(buf);//將buf寫入EmbeddedChannel

    try {
        Thread.sleep(1000);
    } catch (InterruptedException e) {
        e.printStackTrace();
    }
}

MessageToMessageDecoder解碼器

前面提到的ByteToMessageDecoder解碼器的作用其實比較簡單，是將ByteBuf的類型轉換成我們需要的Java對象。而MessageToMessageDecoder解碼器的作用其實是將一種Java對象轉換成另外一種Java對象。因此在我們編寫自定義的MessageToMessageDecoder的時候需要指定對象。

具體實例這里不再貼出，大體和ByteToMessageDecoder差不多，這里不再贅述。

多說一句

關于Netty中開箱即用的解碼器，總結到現在，我們其實已經接觸了很多，從粘包和拆包那一篇博客中，我們用到了LineBasedFrameDecoder，DelimiterBasedFrameDecoder和FixedLengthFrameDecoder三個解碼器，其實還有最復雜的一種LengthFieldBasedFrameDecoder解碼器，這個解碼器較為復雜，后續會在序列化一文中進行總結。

編碼器

編碼器主要用于針對出站的數據處理，整體類圖結構如下

MessageToByteEncoder編碼器

可以通過名稱看出其實就是將一個Java對象編碼成ByteBuf數據包，其實也是一個抽象類，具體的實現會交給之類，比如Netty給我們提供的StringEncoder也繼承這個類。如果我們自己實現編碼器，也只需要繼承這個類即可，大體操作和編碼邏輯和解碼器類似，這里不再貼出實例代碼。

MessageToMessageEncoder編碼器

與解碼器之間的對應關系一樣，MessageToMessageEncoder的作用其實就是將一個Java對象編碼成另一個Java對象，這里不再贅述。

總結

簡單總結了一下編碼和解碼器，大部分參考了《Netty、Redis、Zookeeper高并發實戰》一書。其中還提到了ByteToMessageCodec編解碼器，這個基類中提供了編碼和解碼方法。如果實現了這個類，就不需要單獨編寫解碼器和編碼器。