作者:CSDN @ _养乐多_
在 Google Earth Engine(GEE)平台上处理大型数据集时,加载整个数据集可能导致内存不足的问题。分块处理可以将数据划分为小块,逐块处理,从而有效降低内存压力。这对于处理大规模矢量数据集、避免系统崩溃和提高算法性能至关重要。
本文将介绍如何通过分块处理优化GEE中矢量数据的操作的 API,以提高效率、降低资源消耗。
程序执行时间: 456535 毫秒。
以前的时候记录了一个使用 for 循环将矢量数据划分成小区域以便解决内存超限问题,但是现在用户量越来越多,GEE能够给用户分配的内存越来越少,for 循环的计算速度又很慢,没有像 map 函数那样在服务器上并行计算快速,并能减少客户端和服务器端的数据传输次数以增加计算速度。
结果展示,
在旧版本博客的分享过程中,有粉丝朋友分享了自己在此基础上用 map 函数替换 for 函数的代码,写的很好,本文1.2节有代码链接和展示,但是裁剪后的矢量数据存在以下3个问题:(1)无法去除多余的矢量边界外的分块;(2)代码中使用了 getInfo 函数来读取坐标点,会降低计算速度;(3)丢失了顶部部分小块。
程序执行时间: 2931 毫秒。
结果展示,
在经过修改后,为了解决以上问题,本人对代码进行了优化,使其计算速度加快,并且不丢失矢量小区域,且外围矢量边界和分割后的小块边界适配。本人对核心代码进行了封装,访问该代码直接调用 API 即可,代码示例如下所示。
示例代码链接:https://code.earthengine.google.com/98be6d26c850bc2b84498012eccd96f4?noload=true
Map.centerObject(table, 5);
// 记录程序开始时间
var startTime = new Date();
print(startTime);
var eevp = require('users/949384116/lib:Tools/VectorProcessor')
var featureCollection = eevp.vecSplitByRowCol(table.geometry(), 5, 5)
.filterBounds(table.geometry())
.toList(100)
featureCollection.size().evaluate(function (nSize) {
print('Feature Collection Size: ', nSize)
for (var i = 0; i < nSize; i++) {
var smallVec = ee.Feature(featureCollection.get(i)).geometry()
.intersection(table.geometry())
Map.addLayer(smallVec, {}, 'Vec ' + i)
}
});
// 记录结束时间
var endTime = new Date();
print(endTime);
// 计算执行时间(以毫秒为单位)
var executionTimeMS = endTime - startTime;
var executionTimeStringMS = executionTimeMS.toString() + ' 毫秒';
print('程序执行时间: ' + executionTimeStringMS);