Tài liệu kỹ thuật

ĐỊA HÌNH MỞ: CƠ SỞ HẠ TẦNG DỮ LIỆU KHÔNG GIAN CHO DỮ LIỆU ĐỊA HÌNH - P3

21/10/2021 GeoLink Thu Giang 0 Nhận xét

(English below)

Hợp tác với Địa hình Mở
Crosby thừa nhận có một sự căng thẳng giữa nguồn tài trợ tương đối hạn hẹp của Open Topography với trọng tâm học thuật và nhiều trường hợp sử dụng phi học thuật của nó: “Điều mà chúng tôi liên tục cố gắng hướng tới là xây dựng một mô hình tài trợ bền vững xung quanh Open Topography thừa nhận sự đa dạng của người dùng cơ sở, một ví dụ về điều này là quan hệ đối tác với Land Information New Zealand, cơ quan dịch vụ công của New Zealand chịu trách nhiệm về thông tin địa lý và chức năng khảo sát.


Quan hệ đối tác có nghĩa là họ tận dụng hệ thống của chúng tôi, nhưng họ sẽ chi trả chi phí lưu trữ và phân phối dữ liệu cho bộ dữ liệu của họ vì họ đánh giá cao lợi tức đầu tư mà Open Topography mang lại ”.

Crosby cho biết thêm rằng Open Topography luôn tránh tính phí người dùng cuối, vì họ tin tưởng vào dữ liệu mở và quyền truy cập dữ liệu mở. “Tuy nhiên, chúng tôi không ngừng cố gắng tìm ra cách để điều hướng không gian giữa quyền truy cập dữ liệu mở và máy tính theo yêu cầu ở quy mô lớn, điều này có thể tương đối tốn kém.”

Hợp tác với các nhóm có nhiệm vụ công khai dữ liệu, chẳng hạn như Land Information New Zealand, cơ quan dịch vụ công của New Zealand chịu trách nhiệm về thông tin địa lý và chức năng khảo sát.
Quan hệ đối tác có nghĩa là họ tận dụng hệ thống của chúng tôi, nhưng họ sẽ chi trả chi phí lưu trữ và phân phối dữ liệu cho bộ dữ liệu của họ vì họ đánh giá cao lợi tức đầu tư mà Open Topography mang lại ”.

Crosby cho biết thêm rằng Open Topography luôn tránh tính phí người dùng cuối, vì họ tin tưởng vào dữ liệu mở và quyền truy cập dữ liệu mở. “Tuy nhiên, chúng tôi không ngừng cố gắng tìm ra cách để điều hướng không gian giữa quyền truy cập dữ liệu mở và máy tính theo yêu cầu ở quy mô lớn, điều này có thể tương đối tốn kém.”

Crosby nói: Hợp tác với các nhóm có nhiệm vụ công khai dữ liệu, chẳng hạn như Land Information New Zealand, là một cách tận dụng vấn đề mà dữ liệu “mở” không nhất thiết có nghĩa là miễn phí. dữ liệu thô của người dùng của chúng tôi không giải quyết được vấn đề của họ. Bộ xử lý của chúng tôi giúp dữ liệu dễ sử dụng hơn và do đó mang lại giá trị lớn hơn từ dữ liệu, nhưng điều đó không hề rẻ. Đó là lý do tại sao chúng tôi đã đưa ra trường hợp hợp tác với những nhóm như vậy. Ngoài ra, có lẽ sẽ tiết kiệm chi phí hơn nếu xây dựng các mối quan hệ đối tác như vậy với một bên điều hành nền tảng, mua và tận dụng nó, thay vì tự xây dựng nó, trong trường hợp Open Topography mất hơn mười lăm năm tạo mẫu. ”

Crosby có coi Google Earth Engine là một mối đe dọa đối với mô hình kinh doanh của Open Topography theo nghĩa là nó miễn phí không? Crosby trả lời rằng mặc dù có một nhóm nhỏ cộng đồng học thuật sử dụng Google Earth Engine khá nhiều để truy cập và xử lý dữ liệu trắc quang như một giải pháp thay thế cho Open Topography, nhưng nó không cung cấp bất kỳ khả năng nào trong số này cho lidar. “Lần cuối cùng tôi kiểm tra Google Earth Engine, nó vẫn rất tập trung. Quyền truy cập đám mây điểm là điều làm cho Địa hình mở trở nên độc đáo trong quan điểm đó. ”

Thách thức đám mây điểm
Với sự gia tăng dự kiến ​​của bộ sưu tập lidar trong những năm tới do cảm biến trở nên phổ biến, Crosby mong đợi sẽ thấy những thách thức nào? Anh ấy bắt đầu bằng cách phân biệt các loại đám mây điểm khác nhau, một bên là các đám mây điểm kiểu người tiêu dùng được tạo ra bằng iPad và iPhone mới nhất, cũng như các bộ dữ liệu được tổ chức và kiểm soát tốt từ các chương trình lập bản đồ quốc gia theo tiêu chuẩn ngành: “Các bộ dữ liệu khác nhau có thể cần được quản lý theo một cách khác. Ngoài ra, có rất nhiều dữ liệu sắp xuất hiện, nhưng liệu tất cả dữ liệu đó có cần được lưu trữ trong một kho lưu trữ của cộng đồng lớn hay không là một câu hỏi thú vị ”.

Câu hỏi nghiên cứu số một đối với Crosby là ngành sẽ thực hiện phân tích và tổng hợp dữ liệu trên các loại tập dữ liệu khác nhau như thế nào: “Khi tất cả các tập dữ liệu đó trông và cảm nhận khác nhau và được thu thập bằng các cảm biến và công nghệ khác nhau, chúng sẽ có độ chính xác và sai số khác nhau. với họ. Ví dụ: chúng tôi đã dành một khoảng thời gian đáng kể để thực hiện việc phát hiện thay đổi giữa hai bộ sưu tập lidar trong không khí, điều này không hề nhỏ. Nhưng khi bạn bắt đầu giới thiệu các bộ dữ liệu khác nhau được thu thập với các nền tảng khác nhau, mọi thứ thậm chí còn trở nên phức tạp hơn ”.

Giải quyết các vấn đề về dữ liệu lớn là một thách thức khác đang chờ được giải quyết, chẳng hạn như tính toán sự thay đổi của toàn bộ trạng thái đã được xử lý bởi lidar hai lần. “Giờ đây, chúng tôi có quyền truy cập dữ liệu và quy trình làm việc để thực hiện, đây chắc chắn là một lĩnh vực phát triển cho phân tích dữ liệu đám mây điểm”.

Nhìn lại và hướng tới
Nhìn lại những ngày đầu của sáng kiến, có hai điều nổi bật có thể được quản lý tốt hơn, Crosby nói. “Trong nhận thức cuối cùng, có một số trái cây thấp rất dễ hái ra mà chúng tôi không làm ngay mà chúng tôi có thể có, chẳng hạn như bộ dữ liệu địa hình toàn cầu thực sự tốt với độ phân giải 10-30m. Những điều này thực sự có lợi từ việc xử lý Địa hình mở, mặc dù chúng ít thách thức hơn để xử lý so với dữ liệu đám mây điểm lidar. ”

Một bài học khác mà nhóm đứng sau Open Topography đã học được theo thời gian, đó là cung cấp hỗ trợ người dùng tốt và đáp ứng tốt cho người dùng. Điều này có nghĩa là ngoài việc trả lời các yêu cầu của người dùng riêng lẻ, cung cấp các khóa học ngắn hạn từ mọi thứ từ làm việc với dữ liệu ở hạ lưu của Open Topography đến sử dụng tất cả các loại gói phần mềm để phân tích dữ liệu. “Chúng tôi đã tồn tại đủ lâu để có những sinh viên tốt nghiệp đến với Open Topography và tham gia một khóa học ngắn hạn cách đây mười năm. Giờ đây, họ là giảng viên của một trường đại học và viết bài về xử lý dữ liệu lidar. Thật bổ ích khi thấy toàn bộ vòng đời của quá trình đào tạo và chứng kiến ​​họ tiếp tục và làm những điều thú vị với nó. "

Để có thể tiếp tục sứ mệnh của Open Topography là cung cấp quyền truy cập, xử lý và tạo dữ liệu mở, có một số thách thức cần phải đáp ứng. Truy cập dữ liệu toàn cầu là một yếu tố quan trọng, cũng như việc xây dựng các công cụ mới và mô hình kinh doanh bền vững để tiếp tục thực hiện mọi thứ ở quy mô lớn. “Bởi vì lưu trữ dữ liệu là chi phí chính, việc phân cấp dữ liệu vào nhóm Amazon S3 cho phép chúng tôi thực hiện quyền truy cập liên hợp theo cách cho phép khả năng mở rộng. Ví dụ: giờ đây, chúng tôi có thể lấy dữ liệu từ dữ liệu độ cao 3D của USGS và chuyển dữ liệu đó qua các công cụ xử lý của chúng tôi mà không cần phải sao chép tất cả dữ liệu đó ”, Crosby kết luận.

-----

OPEN TOPOGRAPHY: A SPATIAL DATA INFRASTRUCTURE FOR TOPOGRAPHIC DATA - P3

Partnerships with Open Topography
Crosby admits there’s a tension between Open Topography’s relatively narrow funding source with its academic emphasis and its many non-academic use cases: “Something we’re constantly trying to navigate is building a sustainable funding model around Open Topography that acknowledges the diversity of its user base, an example of this being a partnership with Land Information New Zealand, which is the public service department of New Zealand charged with geographical information and surveying functions.
The partnership means that they leverage our system, but they cover the cost of data storage and distribution for their datasets because they value the return on investment that Open Topography enables.”

Crosby adds that Open Topography has always avoided charging the end user, as they believe in open data and open data access. “However, we’re constantly trying to figure out ways to navigate the space between open data access and on-demand computing at a large scale, which can get relatively expensive.”

Partnering with groups who have a mandate to make data public, such as Land Information New Zealand,  which is the public service department of New Zealand charged with geographical information and surveying functions.
The partnership means that they leverage our system, but they cover the cost of data storage and distribution for their datasets because they value the return on investment that Open Topography enables.”

Crosby adds that Open Topography has always avoided charging the end user, as they believe in open data and open data access. “However, we’re constantly trying to figure out ways to navigate the space between open data access and on-demand computing at a large scale, which can get relatively expensive.”

Partnering with groups who have a mandate to make data public, such as Land Information New Zealand, is a way leverage this problem that “open” data doesn’t necessarily mean free, says Crosby: “We’ve emphasized with Open Topography that handing our users raw data doesn’t solve their problem. Our processing suite makes data easier to use and therefore drive greater value from the data, but that doesn’t come cheap. That’s why we’ve made the case of partnering with such groups. Also, it’s probably more cost-efficient to build such partnerships with a party that runs the platform, buy into it and leverage it, instead of building it yourself, which in the case of Open Topography took more than fifteen years of prototyping.”

Does Crosby consider Google Earth Engine a threat to Open Topography’s business model, in the sense that it’s free? Crosby replies that although there’s a subset of the academic community that uses Google Earth Engine quite heavily for photogrammetric data access and processing as an alternative to Open Topography, it doesn’t offer any of these capabilities for lidar. “The last time I’ve checked Google Earth Engine, it was still very much raster centric. The point cloud access is what makes Open Topography unique in that perspective.”

Point cloud challenges
With the anticipated increase of lidar collection in the coming years as a result of sensors becoming ubiquitous, which challenges does Crosby expect to see? He starts by distinguishing different type of point clouds, with one the one hand the consumer-type point clouds created with the latest iPads and iPhones, and well-organized and controlled datasets from industry-standard national mapping programs: “Different datasets probably need to be managed in a different way. Also, there’s a lot more data coming, but whether all that data needs to end up in a big community archive or not is an interesting question.”

The number one research question for Crosby is how the industry will do data fusion and analysis across different kinds of datasets: “When all those data sets look and feel differently and are collected with different sensors and technologies, they will have different accuracies and errors associated with them. We’ve spent a fair amount of time on doing change detection between two airborne lidar collections, for example, which is non-trivial. But when you start introducing different datasets collected with different platforms, things become even more complicated.”

Solving big data problems is another challenge waiting to be solved, such as computing the change of a whole state that’s been flown by lidar twice. “We now have the data access and the workflows to do it, which is definitely a growth area for point cloud data analysis.”

Looking back and forward
Looking back at the early days of the initiative, there are two things stand out that could have been managed better, says Crosby. “In hindsight, there was some low-hanging fruit that was easy to pick off that we didn’t go after right away that we probably could have, such as really good global topographic datasets with a 10-30m resolution. These really benefit from an Open Topography treatment, even though they’re less challenging to deal with compared to lidar point cloud data.”

Another lesson that the team behind Open Topography learned over time, is providing good user support and being responsive to users. This means that apart from answering individual user requests, providing short courses from everything from working with the data downstream of Open Topography to using all kinds of software packages to do data analysis. “We’ve been around long enough that we’ve had graduate students come through Open Topography and take a short course ten years ago. Now they’re faculty members at a university and write papers about lidar data processing. It’s rewarding to see that full life cycle of training and seeing them go and do interesting things with it.”

To be able to continue with Open Topography’s mission of providing open data access, processing and creation of data deliverables, there are a couple of challenges to be met. Global data access is an important one, as are building new tools and sustainable business models to keep doing things at scale. “Because data storage is a primary cost, decentralization of data into an Amazon S3 bucket enables us to do federated access in a way that enables scalability. For example, we are now able to grab data from USGS’ 3D elevation data and pipe it through our processing tools without having to copy all that data”, concludes Crosby.

Geolink tổng hợp từ Gislounge

Bình luận

VIẾT BÌNH LUẬN CỦA BẠN:

popup

Số lượng:

Tổng tiền: