Thứ Hai, 3 tháng 8, 2020

HOW-TO: Studying and passing Microsoft Azure certification AI-100 and DP-100 in 3 days!!!

👆👆👆,

I registered and passed AI-100 and DP-100 last week. I registered on last Monday and passed the AI-100 on 29-July-2020 and DP-100 on 30-July-2020 ✌. So, I registered, reviewed materials, and took the exam and passed it in 3 days. It is amazing!!! Hehehe, that maybe just my clickbait. Let's celebrate it first, no matter what!!!
Figure 1: My Microsoft certifications from the Microsoft Certification Dashboard portal.

    Let me tell you what the amazing things were about the exam. I did not know what to expect before the exam happened. I used to the exam format such as going to the hall, and write on the papers. Interestingly, I was taking the last exams 7-8 years ago. You registered the exams online, did the exams on a computer software of PEARSON VUE. Because of the COVID-19 situation, I could register the DP-100 exam at a test center in the city center, which is near my place, and I could only register the AI-100 exam at a quite far-away region. I found taking the exam in the far-away test center is more interesting because their measures for COVID-19 is less stringent. I must wear a mask,  and further I need to wear a pair of gloves in the test center in city area. I think a pair of gloves is redundant and reducing their profits during the pandemic 😀. You can wash your hands of viruses with soap, and all your viruses would be washed away, and the situation in Singapore is not that bad. By the way, their gloves were very nice 🧤!!! If you are know how to use a computer software, then you don't need to wary about the test software. After you clicked the button "Finished", your scores would come out immediately 😀. I never have experienced a kind of tests like that, from admitting to university, tests in schools..., and I need to wait at least a few days or months to know whether I pass or fail. This is very amusing to me.

    That is how I passed AI-100 Designing and Implementing an Azure AI Solution with the score of 717, and DP-100 Designing and Implementing a Data Science Solution on Azure with the score of 816. By the way, you need at least 700 the pass the certification.

Now coming to the main story...

Reviewing for two exams

Before the exam, I don't know how to review for the exams, because I never takes any cloud platform or technology exams. I did some searches online and read around some documents in Microsoft Learn websites. Microsoft did a good job to build the learning resources for their technologies and also for preparing for the certification exams. My company also hires an instructor to teach us the two modules, and he also gave an sample exam paper. But I found this exam paper is not really relevant, and their answers are controversial.
    Let's stick with Microsoft (MS) resources for training yourself and preparing for the exam. If your company has an instructor for you, that is great! Learning with interactions would be easier than learning on your owns. First, I would remind you that MS has a portal of anything can be certified, from there, you can navigate into your wanted certification and its learning resources.

DP-100:

The learning path is here. There is a github repo accompanying with the Online-Free course: https://github.com/MicrosoftLearning/DP100. The first module focuses on developing machine learning pipelines with Azure Machine Learning designer with no codes. The second modules teaches what and how to use Azure Machine Learning SDK (Python) to design machine learning pipelines. If a instructor were to teach you, he also cover the contents similar two modules and the github pipeline.

Figure 2: Learning path for DP-100 including two modules.

Let's look at what it is covered in the second module learning Azure Machine Learning SDK
  • Introduction to Azure Machine Learning
  • Train a machine learning model with Azure Machine Learning
  • Working with Data in Azure Machine Learning
  • Working with Compute Contexts in Azure Machine Learning
  • Orchestrating machine learning with pipelines
  • Deploying machine learning models with Azure Machine Learning
  • Deploy batch inference pipelines with Azure Machine Learning
  • Tune hyperparameters with Azure Machine Learning
  • Automate machine learning model selection with Azure Machine Learning
  • Explain machine learning models with Azure Machine Learning
  • Monitor models with Azure Machine Learning
  • Monitor data drift with Azure Machine Learning
Please remember "practice makes it perfect"! There are many questions regarding reading a segment of Python codes, or filling the blank with codes. There is NDA (Non-disclosure agreement) that I signed with MS, hence, I cannot disclose anything further. 

Practice! Practice! Practice! You can register a new Azure account with an email account with some free credits (I remembered around 300$). With that amount, you can practice your skills. When practicing, let focus on setting up an Azure Machine Learning workspace, running experiments and training models, optimizing and managing models, deploying and consuming models. They are as usual as we are doing in jobs as data scientists.

AI-100:
For AI-100, we can follow the same study guides as DP-100. Remembering MS is a nice guy 😆, wants to validate your skills only, and practice makes it perfect.
Figure 3: Learning path for AI-100 including four modules
I found the following github very helpful for reviewing materials after practicing: https://github.com/meet-bhagdev/ai-100

To summarize, we should follow the learning path recommended by MS and practice the lab sessions provided by MS.

P/S: This post is dedicated to my fellow HannLam Woo.
🐘🐘🐘

Thứ Bảy, 1 tháng 8, 2020

Azure! Azure! Azure! chứng chỉ AI-100, DP-100 là gì?

☝☝☝,
Hôm nay, tôi có một tin vui muốn thông báo đến các bạn độc giả là tôi đã được chứng nhận bởi Microsoft (MS) về một kỹ năng. Chắc hẳn, trong một giai đoạn nào đó, tôi cũng như các bạn đã xài lậu hệ điều hành Windows của Microsoft 💥. Thời lúc mới vào đại học, năm 2007, đa số mọi người điều xài Win lậu, vì lúc đó khái niệm bản quyền ở Việt Nam là hơi xa lạ, và vì còn nghèo. Lúc đó, mọi người tìm cách crack Win để xài, hehe. Bây giờ thì tình hình có vẻ khá hơn, vì bây giờ, bạn mua một chiếc máy tính, laptop thì các bạn phải bắt buộc phải mua bản quyền cho Windows hoặc MacOs.

1. Vậy chứng chỉ là gì?

Trở lại chủ đề chính, hình 1 phía dưới là một phần của chứng chỉ (certification) do Microsoft cấp cho tôi tuần này, (được lưu trữ ở Microsoft Certification Dashboard). Chứng chỉ là một chứng nhận mà Microsoft cấp cho bạn nếu bạn vượt qua kỳ thi do Microsòft uỷ quyền cho một công ty chuyên về thi tổ chức (i.e., Pearson VUE). Hai chứng chỉ của tui có thời gian 2 năm đến 29-07-2022, và tôi đã bỏ tên đi vì sự riêng tư.

Câu chuyện mà tôi đi thi để lấy chứng chỉ (Microsoft certification) cũng là do liên quan đến dịch COVID-19. Vì dịch COVID-19, mà công ty của tôi phải làm việc ở nhà, và nhiều người ở Singapore mất việc làm. Công ty tôi cũng hưởng ứng chủ trương của chính phủ Singapore kêu gọi nâng cấp kỹ năng (up-skill) của người làm việc trong thời kì dịch bệnh, để sau khi kinh tế khôi phục, thì mọi người có thể tìm được việc mới. Mà quan trọng hơn, Microsoft có đầu tư trong công ty tôi, và công ty tôi cũng sử dụng nền tảng điện toán đám mây Azure của Microsoft, nên công ty có tổ chức lớp học về những công nghệ Microsoft. Và thế, tôi đăng ký học và thi đậu 2 kỳ thi liên quan đến công việc mà tôi đang làm, 
AI-100 Designing and Implementing an Azure AI solution DP-100 Désigning and Implementing a Data Science Solution on Azure 💪. Hehe!!!

    Kỳ thi diễn ra trên máy tính, và tôi phải đến một trung tâm để thi. Sau khi bạn hoàn thành bài thi trên máy tính, thì bạn sẽ biết kết quả liền. Ở Việt Nam, các bạn có thể thi ở trung tâm Trainocate, địa chỉ trên website của họ. Tôi có kinh nghiệm trong lĩnh vực này và không có nhiều thời gian nên tôi quyết định đăng ký và thi trong tuần này. Tôi đăng ký vào thứ 2, và thi vào ngày thứ 4 và thứ 5. May mắn thay, tôi đã đậu kỳ thi AI-100 với số điểm 717 và DP-100 với số điểm 816 (với 700 điểm, bạn sẽ đậu). Yeah!!!💫💫💫

    Nói một cách vắn tắt, AI-100 là chứng chỉ về những công nghệ liên quan đến trí tuệ nhân tạo (Artificial Intelligence), và DP-100 tập trung vào những công nghệ về học máy, khoa học dữ liệu (machine learning, data science) của Azure. Tôi sẽ viết một blog khác về học những chứng chỉ này như thế nào.

Figure 1: Chứng chỉ tin học đầu tiên của đời tôi.

2. Vai trò của chứng chỉ

Lúc đầu, tôi cảm thấy rất vui vì những cái huy hiệu đẹp phía dưới. Tôi có thể làm gì cho chứng chỉ này 😆? Theo như người thầy dạy tôi 2 môn này, posting những chứng chỉ này lên Linkedin, và viết trong CV thì có thể giúp chúng ta có cơ hội được liên hệ với những công việc liên quan đến Azure cloud. Cũng theo như ông ấy, sau khi vượt qua kỳ thi này, chúng ta có thể được gọi là MSP, Microsoft professionals (gọi như, những người hành nghề công nghệ Microsoft). Những chứng chỉ này giống như bằng tin học hoặc tiếng Anh A, B, C hồi xưa, nhưng ở lĩnh vực chuyên môn sâu hơn.
    Hơn thế nữa, với việc đạt được chứng chỉ này, tôi có thể tiến hành những thủ tục tiếp theo để trở thành một Microsoft Certified Trainer (MCT, đại khái, người đào tạo về công nghệ Microsoft). Cũng là một lựa chọn cho công việc sắp tới của tôi. Những kiến thức trong 2 chương trình này, làm cho tôi có nhiều lựa chọn trong việc sử dụng công nghệ trong công ty: tự hiện thực, open-source, Azure, AWS, GCP.
      Bàn một chút về chứng chỉ của MS, MS Azure có 3 loại chứng chỉ: fundamental (1 sao), associate (2 sao), expert (3 sao). Các bạn cũng thấy, chứng chỉ của mình thuộc loại associate có 2 sao. Do lĩnh vực data science và AI tương đối mới, nên hiện giờ, chứng chỉ cao nhất là associate, chắc là sau này sẽ có trình độ expert nếu công nghệ này được ứng dụng và phát triển rộng rãi trong tương lai. Vì vậy, tuỳ theo công việc hiện tại bạn đang làm và sở thích, bạn có thể chọn chứng chỉ cho phù hợp (i.e, toàn bộ danh sách chứng chỉ của Azure).👈
Figure 2: Huy hiệu (badge) của chứng chỉ AI-100 được cấp từ Microsoft.

Figure 3: Huy hiệu (badge) của chứng chỉ DP-100 được cấp từ Microsoft.

Bài liên quan:

P/S: Các bạn có thể sử dụng hệ điều hành open-source như Ubuntu nếu các bạn không chơi game nhiều.🐘🐘🐘
Bình luận 👇👇👇

Thứ Sáu, 31 tháng 7, 2020

3 đặc trưng của thông tin và tư vấn tổng quan về ngành IT

Bài viết này chủ yếu dành cho các bạn học sinh phổ thông (cấp 2, cấp 3), nhưng các bạn học đại học vẫn có thể đọc. Bài này mình bàn về khái niệm của <<thông tin>> và ngành IT (công nghệ thông tin), vì kỳ thi tốt nghiệp phổ thông 2020 (trước kia là kỳ thi đại học) đã tới gần.

1. Ba đặc trưng của thông tin

Những đặc trưng này, tác giả tự đúc kết sau khi dành thời gian 4.5 năm học về kỹ thuật máy tính (computer engineering, or CE) ở đại học, một thời gian nghiên cứu PhD, và đi làm 3 công ty từ nhỏ đến lớn (i.e, Softfoundry, AIQ, Grab,...). Tổng cộng thời gian, tác giả tiếp xúc/làm việc nghiêm túc với máy tính 13 năm từ 2007 tới nay. Trước đó, thì chỉ chơi một ít game thời học cấp 3. Đi cùng những đặc tính này, mình sẽ tóm lượt những công việc liên quan tới những đặc trưng này.

Nhanh (fast): Đây là đặc tính đầu tiên và quan trọng nhất của thông tin số. Thông tin số là thông tin được mã hoá trong máy tính. Máy tính bây giờ có thể xử lí một câu lệnh trong khoảng 1ns (1 giây có 10^9 ~ 1 tỷ nano giây). Bạn nói một câu nói ngắn thì khoảng 5s, và bạn có thể tưởng tượng trong khoản thời gian ấy, máy tính có thể thực hiện 5 tỷ câu lệnh rùi. Rất có ít thứ trên thế giới có thể làm điều kỳ diệu này. Nhiều câu lệnh sẽ gộp thành những tác vụ (operation) có ích với con người như truyền, biến đổi, trình diễn, gây chú ý thông tin. Chính sự nhanh của thông tin đã làm hiệu suất làm việc của con người tăng lên.
Figure 1: Máy tính Apple Macintosh Classic II, một trong những máy tính cá nhân đầu tiên.


Đa dạng (big): Máy tính xử lí nhanh và có dung lượng lớn, dẫn đến con người dùng máy tính để lưu trữ một lượng thông tin khổng lồ. Các loại thông tin khác nhau như số, ngôn ngữ, chữ viết, văn bản, bài văn, thư từ, báo chí, âm thanh, hình ảnh, video, thông tin tài chính, địa lý,  giải trí, trò chơi (gaming)... Ngành khoa học máy tính có một chuyên ngành xử lí big data khá phổ biến.
Figure 2: dữ liệu lớn và đống hỗn độn của nó 😀


Ảo (virtual): Thông tin thường thì không sờ, nắm, ngửi được, mà bạn chỉ có thể nhìn, đọc, nghe nó. Bazinga!!! Nhưng có ngoại lệ, bạn có thể in thông tin (một bài báo vnexpress), ..., và ngửi nó, hi hí!!! Các bạn học C++ cũng biết khái niệm virtual function, một hàm (function) không có hình dạng/chức năng/hiện thực (còn gọi là implementation) cụ thể mà chỉ có một giao diện (interface), có thể được dùng ở nhiều nơi. Tương tự, thông tin cũng ảo và đa hình được dùng/biến đổi tuỳ thuộc vào nhu cầu của con người cho mục đích cả xấu lẫn tốt. Nhu cầu của con người đối với thông tin sẽ tạo ra nhiều việc làm và nhiều ngành công nghệ nhỏ trong ngành IT. Ví dụ, chúng ta muốn phát triển phần mềm (software) có nhiều lĩnh vực khác nhau (tài chính, báo chí, chính phủ, dầu mỏ, quản lí địa lí (GIS),...) làm cho công việc kỹ sư phần mềm (software engineer) rất phong phú. Chúng ta muốn phát triển phần mềm cho các loại thiết bị khác (máy tính, macOS, Windows, điện thoại, iOs, Android, Sámsung, Apple, Huawei phone, ...). Chúng ta muốn thông tin an toàn hơn, sản sinh lớp công việc về kỹ sư an toàn thông tin (security engineer), kỹ sư mạng máy tính (network engineer). Chúng ta muốn thông tin trở nên thông minh hơn, tạo nên lớp công việc về phân tích dữ liệu, khoa học dữ liệu (data analytics, data analysts, data scientist). Rồi có công việc quản lí chuỗi thông tin trong một chuỗi kinh doanh/sản xuất, ví dụ như quản lí chương trình kỹ thuật (Technical Program Manager), quản lí sản phẩm (Product Manager). Vì nhu cầu dồi dào, nên cũng có nhu cầu về tập huấn/giảng dạy cho nhân viên công ty những công nghệ IT phổ biến, chẳng hạn, trong cloud computing, có nhiều chương trình training về AWS (Amazon), Azure (Microsoft), GCP (Google), và có những công việc loại giảng dạy này. Vì chữ ảo này, trong kinh doanh, cũng có nhiều công ty, ngành công nghiêp cố gắng kết nối giữa ảo (virtual) & thực (reality), ví dụ, gọi dịch vụ xe, thức ăn qua điện thoại thông minh (ride-hailing, food delivery), in 3D (3D-printing), thương mại điện tử (e-commerce), Internet-of-Things (IoT).

Figure 3: Funny cat with virtual reality glasses.

2. Những câu hỏi thường gặp về ngành IT

Trong phần này, tác giả chủ yếu làm sáng tỏ một vài điều bí ẩn thường được hỏi về ngành IT.
  • Có phải là tác giả khuyên người đọc nên thi IT?
Dĩ nhiên là không. Với kinh nghiệm, mình đã từng thấy nhiều bạn học xong IT đi làm ngành khác, hoặc học những ngành khác chuyển sang làm IT, cũng có nhiều bạn nhìn thấy codes là bỏ chạy á 😂. Tôi chỉ cung cấp cho các bạn những kinh nghiệm trong ngành mà ít người bàn tới.
  • Học IT luôn vất vả vì phải học liên tục, luôn cập nhật kiến thức?
Tôi luôn gặp câu hỏi này từ những người phụ huynh khi lựa chọn nghề nghiệp. Ba tôi, một người nông dân, không bao giờ tiếp xúc với công nghệ thông tin (CNTT), vẫn biết về điều này. Chắc do những người có con học về CNTT nói chuyện và kể lại. Rồi, một hôm, tui đi một hội thảo (workshop) bên xứ Singapore này, có một bà mẹ cũng hỏi, nếu con tôi học và thành thạo một ngôn ngữ (C++) thì liệu nó có được một nghề nghiệp ổn định trong tương lai. Với kinh nghiêm trong ngành, tôi thấy một phần nào đúng trong những nhận xét này. Tuy nhiên, chúng ta nghĩ theo điều này ở một khía cạnh tích cực. Chính việc đổi mới liên tục của công nghệ sẽ tạo ra công việc. Nếu các bạn có kiến thức cơ bản của ngành thì việc tiếp thu kiến thức mới sẽ dễ hơn. Những bạn thích công việc nhẹ nhàng, ít thay đổi thì IT sẽ khó đáp ứng bạn. Và tất cả các công việc theo nghĩa rộng nhất là tạm thời.
  • Học IT "hái" ra tiền?
Tôi cũng nhận được lời nhận xét này. So với mặt bằng chung thu nhập ở VN bây giờ, thì cũng có thể đúng là ngành IT có mức lương cơ bản tốt hơn mức trung bình, báo cáo ở đây (link). IT trả lương tốt cho những người có kinh nghiệm. Nhưng phổ lương của IT khá rộng tuỳ thuộc vào năng lực và kinh nghiệm. Nhưng làm việc trong ngành IT, bạn phải thường xuyên làm việc quá giờ (over-time).
  • Con gái có học được IT?
Theo kinh nghiệm của tôi, IT là ngành công nghiệp bao gồm nhất (inclusive) nhất. IT là một ngành trong khối STEM (science, technology, engineering, mathematic) mà con gái có thể dễ dàng hoà nhập. Vì sự đa dạng về công việc của IT, có nhiều vị trí ít yêu cầu về kỹ năng kỹ thuật như quản lí sản phẩm (product manager), quản lí dự án (program manager), quản lý tài khoản (account manager), làm về nhân sự (technical recruiter), thiết kế đồ hoạ (designer), kiểm thử (tester), bán hàng. Hơn thế nữa, nhiều bạn nữ có kỹ năng làm kỹ thuật tốt.
  • Những kỹ năng gì quan trọng để học ngành IT?
Kỹ năng giải quyết vấn đề và tiếng Anh. Tiếng Anh là quan trọng, vì rất nhiều tài liệu quan trọng, hệ thống kiến thức được phổ biến bằng tiếng Anh.  Một phần vì những phát minh đầu tiên liên quan đến máy tính đến từ Mỹ, một phần vì tiếng Anh là ngôn ngữ phổ biến của khoa học. Nhưng quan trọng nhất vẫn là kỹ năng giải quyết vấn đề.
  • Toán học có quan trọng với ngành IT?
Rất nhiều giải thuật trong khoa học máy tính được phát minh tự trên những định lý, nghiên cứu của các nhà toán học, ví dụ, như đại số boolean, định lý số lớn trong học máy... 
  • Liệu ngành IT còn tồn tại trong 20 năm tới?
Chắc chắn là vậy. Tất nhiên, sẽ có nhiều tiến bộ trong ngành nữa, nhiều công cụ nâng cao hơn, ứng dụng sâu rộng hơn. Giống như ngành IT bây giờ khác rất nhiều so với 40 năm trước.
  • Học xong thì làm việc ở đâu?
Bây giờ có rất nhiều công ty có việc làm IT ở Việt Nam. Phổ biến nhất về phần mềm là FPT Software, VNG, TMA, CMC, KMS, Global Cybersoft,... Những công ty Internet ở Việt Nam như Tiki,...Những công ty viễn thông như Viettel, VNPT, Vinaphone cũng cần nhân viên để xây dựng và vận hành hệ thống công nghệ của họ. Ngân hàng cũng có hệ thống IT riêng như Vietcom bank, Techcom bank... Những công ty đa quốc gia cũng có mặt ở VN như Grab, Shopee, Harvey Nash, Bosch, KPMG... Những công ty phần cứng đa quốc gia như AMD, Renesas Electronics, Samsung, nghe đồn có Apple... Và cả ngàn công ty startup, SME khác như GiaoHangNhanh,...
  • Những ngành học có liên quan đến IT?
Những ngành chính thống như khoa học máy tính (computer science), kỹ thuật máy tính (computer engineering). Có những ngành mà tôi đi làm vẫn thấy, sau khi tốt nghiệp, họ vẫn làm kỹ sư phần mềm/phần cứng tốt như điện tử (electronics), viễn thông (telecomunication), toán/thống kê (mathematics)...


Chúc các bạn có sự lựa chọn hợp lý và một kỳ thi tốt! Nếu các bạn có câu hỏi, xin hãy gửi bình luận phía dưới (phần comment) 👇👇👇.
🐘🐘🐘

Thứ Bảy, 9 tháng 2, 2019

PL 101: Python numpy assignment operation is very amusing.

Hi all,
In this post, I just found that Python numpy is really an amusing language in the assignment operation and the mutable property of strings and tuples. I will continuously update this page to reflect my surprise on the features of Python numpy package.

First, the assignment operation is not a deep copy operation. It means that it just copy the pointer of contents to a new variable name. For example,
In [1]: import numpy as np
In [2]: a = np.zeros((2,3))
In [3]: a
Out[3]:
array([[0., 0., 0.],
[0., 0., 0.]])
In [4]: b = a
In [5]: b[0][0]= 1
In [6]: b
Out[6]:
array([[1., 0., 0.],
[0., 0., 0.]])
In [7]: a
Out[7]:
array([[1., 0., 0.],
[0., 0., 0.]])

You can see that modifying matrix `b` will cause matrix `a` modified.

Happy new year 2019, the year of Pig! Happy Python.

Thứ Hai, 5 tháng 2, 2018

C++ Algorithm 101: get index of sort algorithm

Hi,
Do you wonder to ask how to get index of a sorted array in C++. The answer is not straightforward, but tangible with C++11 lambda. Keep it in your C++ toolbox, you might need it quite often. I hope people will include some ways to do it easily in C++ next version.

template <typename T>
vector<int> sort_indexes(const vector<T> &v) {

  // initialize original index locations
  vector<int> idx(v.size());
  iota(idx.begin(), idx.end(), 0);

  // sort indexes based on comparing values in v
  sort(idx.begin(), idx.end(),
       [&v](size_t i1, size_t i2) {return v[i1] < v[i2];});

  return idx;
}
See you in the next post. Happy 2018 with productivity.

Thứ Tư, 18 tháng 11, 2015

Programming languages 101: Python containers vs. C++ containers

Hi all,
    I am always fascinated about programming languages, computer science and technology in general. At a dinner with my friends, we were discussing about programming languages Python, R, Fortran, C/C++ and data science. At a particular time, we were moving into an topic with a simple question how to implement linked-list in Python. For an experienced programmer like me, it is quite ridiculous for me to ask this question, because we do not need it in most cases. I think that Python will take care of basic data structures for you and you just use it. Python uses C to implement basic data structures for you, called CPython. And if you are crazy enough or want to reinvent the wheel or implement a new data structure, you can implement it in C/C++ and bind it to Python.
    So, I spent that a whole night to rethink about a new question: What underlying implementation of Python container list [] and what is the equivalence containers/implementations in C++?
    At first, I think the equivalent container in C++ would be vector. In the end, it has a slight  difference in their implementation. The implementation of Python list uses a contiguous array of references to other objects, and keeps a pointer to this array and the array’s length in a list head structure. Some explanations can found at [1], [2]. The intuitive idea is represented through this simple picture.
Courtesy from Laurent Luce [2]
The first left column represents array of pointers to keep tracking of Python objects. The right column represents Python objects itself. Any insertion, append, removal of elements would affect arrangements of the first column (array of pointers), but not on the second column (Python objects). In fact, moving expensive Python objects around is more than costly than its pointers. In contrast, C++ vector utilizes array as underlying storage mechanism. In a sense, Python list [] is better than C++ vector in the insert operation. In particular, if you insert an element in the middle of the array, the Python list just only need to shift references of Python objects, while C++ need to shift the C++ objects to new positions. The efficiency, you can imagine, is usually between moving heavy class objects and moving slight pointers. However, C++ offers more containers that are suitable your need. For example, if you want to insert objects frequently, it is efficient to use C++ lists (implemented by a double linked-list).
typedef struct {
    PyObject_HEAD
    Py_ssize_t ob_size;

    /* Vector of pointers to list elements.  list[0] is ob_item[0], etc. */
    PyObject **ob_item;

    /* ob_item contains space for 'allocated' elements.  The number
     * currently in use is ob_size.
     * Invariants:
     *     0 <= ob_size <= allocated
     *     len(list) == ob_size
     *     ob_item == NULL implies ob_size == allocated == 0
     */
    Py_ssize_t allocated;
} PyListObject;

    For me, Python is still new. And I think the best way to learn and understand a language is to ask simple and stupid questions like this. I have recently admired the development of Python language because it is motivated and evolved from exciting huge efforts of an open-source community.
    Of course, the container are quite an important concept of a programming language. The container in Python includes list, tupple, dict, string and something else. The container in C++11 includes vector, list (equivalent to Python list), forward_list (single linked-list), map (similar concept to Python dict), unorder_map, deque (double linked-list queue), string, and something else.
    Today, I have motivations to write blogs in Vietnamese. I decided that this blog is bilingual, i.e., English and Vietnamese. For me, it is easier to write technical contents in English, although Vietnamese is my mother tongue. It is because I tried to adapt to technical contents around Internet in English when I first came to learn computer science in university. Now, I find it hard to describe some technical concept in Vietnamese, especially with fast-pace changing field like Computer Science (CS). Overall, it is helpful because it is fun to contribute back to the community.

References:
[1] http://stackoverflow.com/questions/3917574/how-is-pythons-list-implemented
[2] http://www.laurentluce.com/posts/python-list-implementation/

Chủ Nhật, 19 tháng 7, 2015

OpenCV vs Matlab in Image Processing

OpenCv and Matlab are frequently used in image processing and computer vision because of their well-supported from OpenCv developers and Mathworks. In this post, I would like to highlight some differences in some basic concepts in memory layout, model, math expressions and etc. These concepts are very vital for programmers who use these tools.

1. Memory layout of an image
  • OpenCV supports only interleaved images (packing multiple channels one after the other for each pixel). This is more ridiculous and take notices when reading pixel values of opencv image.
  • Always to like this in scanning an image in Opencv 
    int channels = I.channels();

    int nRows = I.rows;
    int nCols = I.cols * channels;

    if (I.isContinuous())
    {
        nCols *= nRows;
        nRows = 1;
    }

    int i,j;
    uchar* p;
    for( i = 0; i < nRows; ++i)
    {
        p = I.ptr<uchar>(i);
        for ( j = 0; j < nCols; ++j)
        {
            p[j] = table[p[j]];
        }
    }
  • Matlab all of the channels clustered into image planes with the planes placed one after another. There is one advantage that matlab is homogenous, and single invariant to deal with.
2. Memory model
  • OpenCV is row-major
  • Matlab is column-major.

3. Matrix allocation and copy
  • Opencv: Do not expect a deep copy of an assignment operation in OpenCv. It just copies the header of Mat object.

  • Matlab: Somehow, Matlab will delay the deep copy until necessarily.
Ex: a = rand(5000);
      b = a;                // still not copy from a
      a(1) = 1;            // a will make a deep copy of itself and modify first element to 1.

This is the only way to implement Mat in opencv, because Mat will be shared between many variables rather than deep copying around, which is heavily prohibited for large object in memory.

4. Math experssions:
Although cv::Mat supports some mathematical expressions, it is very limited. Matlab is very intuitive and expressive language of math.

5. Matrix dimension in Opencv:
Semantic meaning x ~ width, y ~ height. But the first dim is y, second dim is x. 
For example, to access elements in position (x, y) in Mat, we should do
mat.at<int>(y, x).
Similarly, Matlab also uses the same notations.

6. Continuity of memory layout:
Memory layout for a matrix in Matlab is continuous, column after column. However, in Opencv, it can be separate or continuous. We can check its continuity by calling function Mat::isContinuous() in Mat objects. 
http://docs.opencv.org/modules/core/doc/basic_structures.html#mat-iscontinuous

7. Size vs. Size
OpenCV returns size() method as Size(cols, rows). This is inconsistent with Mat constructor Mat(rows, cols, type). While Matlab is always consistent, a matrix will return size as index dimensions of matrix (0, 1, 2, ...).
The problem with OpenCV that it has notations of width, height with width ~ x ~ cols, height ~ y ~ rows. Remembering this correspondence is problematic.
REMEMBER: Size(x, y).

Selamat Hari Raya
@An