[info] R. G. Pacheco, K. Bochie, M. S. Gilbert, R. S. Couto, and M. E. M. Campista, “Towards Edge Computing Using Early-Exit Convolutional Neural Networks,” Information, vol. 12, no. 10, p. 431, Oct. 2021, doi: 10.3390/info12100431. [/info]
在计算机视觉应用中,移动设备由于计算资源的限制往往需要将卷积神经网络(CNN)的推理任务转移到云端完成。但是除了给云端带来更多的网络负载之外,这种方法还会使那些需要低延迟的应用变得不可行。
[info] E. Li, L. Zeng, Z. Zhou, and X. Chen, “Edge AI: On-Demand Accelerating Deep Neural Network Inference via Edge Computing,” IEEE Trans. Wireless Commun., vol. 19, no. 1, pp. 447–457, Jan. 2020, doi: 10.1109/TWC.2019.2946140. [/info]
深度神经网络(DNN)是支持移动智能应用的关键技术，但在移动设备上运行DNN存在计算资源有限的挑战。传统的云计算辅助的DNN推理存在明显的延迟问题。边缘计算作为一种新兴的计算模式，可以用于支持实时的DNN推理。
[info] C. Hu and B. Li, “Distributed Inference with Deep Learning Models across Heterogeneous Edge Devices,” in IEEE INFOCOM 2022 - IEEE Conference on Computer Communications, London, United Kingdom: IEEE, May 2022, pp. 330–339. doi: 10.1109/INFOCOM48880.2022.9796896. [/info]
随着深度学习在各种任务中的广泛应用,将模型部署到边缘设备进行推理非常重要。但是直接在资源受限的边缘设备上使用复杂的深度学习模型进行推理可能会很慢。因此,通过分布式推理来加速非常必要。
问题背景：
首先，在基于动态规划的灰度图像压缩算法中，压缩前灰度值序列的每个值原本以8bit，即1byte进行存储，压缩后，灰度值序列分为n个段，每个段中的每个元素都不一定以8bit存储，具体存储位数存放在一个大小为n的byte数组中。我们称这为不定长存储。
其次，我们知道在计算机中一般为按字节编址和存储，在Python、C/C++等编程语言中主要提供的读写的最小单位也是字节，而不是比特。但要实现灰度值序列的不定长存储，按比特读写是更方便的。
[info]在实际使用时，请注意考虑大小端存储的问题。[/info]
解决问题：现有一个byte值序列data[data_size]，和另外一个byte值序列B[data_size]。其中第i个元素B[i]，表示data[i]将以B[i]个bit存储。例如B[i]=3表示data[i]希望以3个bit存储。
输出结果：
