Loading AI tools
מנוע מסד נתונים מוויקיפדיה, האנציקלופדיה החופשית
אפאצ'י הייב (תרגום: כוורת; באנגלית: Apache Hive) הוא פרויקט תוכנה של מחסן נתונים שנבנה על גבי האדופ ומאפשר שירותי סיכום נתונים, שאילתות, וניתוחים.[1] הייב נותן ממשק מדמה SQL החושף ממשק לשאילתות על נתונים מאוחסנים על גבי בסיסי נתונים שונים ומערכות קבצים הנמצאים באינטגרציה עם האדופ. שאילתות SQL מסורתית חייבות להיות מיושמות בעזרת ממשק ה JAVA של MapReduce עבור יישומים הדורשים שאילתות על נתונים מבוזרים.
מפתח | קרן התוכנה אפאצ'י |
---|---|
מחזור חיים | 9 בנובמבר 2011 – הווה (13 שנים) |
גרסה אחרונה | 3.1.3 (9 באפריל 2022) |
מערכת הפעלה | חוצה-פלטפורמות |
נכתבה בשפות | Java |
סוג רישיון | אפאצ'י 2.0 |
קוד מקור | |
hive | |
הייב מספק אבסטרקציה של SQL לאינטגרציה של שאילתות עם מאפייני SQL, הנקרא HiveQL לתוך שכבת הקוד (Java) ללא צורך למימוש השאילתות בממשק Java. מכיוון שמרבית ממחסני הנתונים משתמשים בשאילתות SQL הייב מאפשר הגירה של אפליקציות לשימוש בהאדופ.[2]
הפיתוח הראשוני היה על ידי פייסבוק, אולם מאוחר יותר נכנס לשימוש ופיתוח על ידי חברות אחרות כגון נטפליקס ו FINRA.[3][4] אמזון מתחזקת ענף של עץ הפיתוח של הייב הכלול בשירותי הרשת שלה, AWS.[5]
input_lines = LOAD '/tmp/input.txt' AS (line:chararray);
words = FOREACH input_lines GENERATE FLATTEN(TOKENIZE(line)) AS word;
filtered_words = FILTER words BY word MATCHES '\\w+';
word_groups = GROUP filtered_words BY word;
word_count = FOREACH word_groups GENERATE COUNT(filtered_words) AS count, group AS word;
ordered_word_count = ORDER word_count BY count DESC;
STORE ordered_word_count INTO '/tmp/results.txt';
תוכנית "ספירת מילים", מחשבת את מספר הפעמים שכל מילה מופיעה בקלט נתון. דוגמה לכתיבת תוכנית כזו ב HiveQL:
DROP TABLE IF EXISTS docs;
CREATE TABLE docs (line STRING);
LOAD DATA INPATH 'input' OVERWRITE INTO TABLE docs;
CREATE TABLE word_counts AS
SELECT word, count(1) AS count FROM
(SELECT explode(split(line, '\s')) AS word FROM docs) temp
GROUP BY word
ORDER BY word;
הסבר על פעולת התוכנית:
בדוק אם טבלתdocs
קיימת ומחק אותה אם כן. צור טבלה חדשה בשם docs
עם עמודה אחת מסוג STRING
בשם line
.
טען את הקובץ המפורט או הספרייה (במקרה שלנו "input") לתוך הטבלה. OVERWRITE
מציין שטבלת היעד שאליה הנתונים נטענים תיכתב מחדש, אחרת הנתונים יהיה "מתווספים" (appended).
CREATE TABLE word_counts AS SELECT word, count(1) AS count
יוצר טבלה בשם word_counts
עם שתי עמודות: word
ו count
. שאילתה זו עובדת על פלט השאילתא הפנימית (SELECT explode(split(line, '\s')) AS word FROM docs) temp"
. שאילתה זו משמשת כדי לפצל את מילות הקלט לטבלה זמנית המכונה temp
. כאשר GROUP BY WORD
מקבץ את התוצאות בהתבסס על המפתחות שלהם. התוצאות של עמודת count
מחזיקה את מספר המופעים של כל מילה בעמודת word
. לבסוף, ORDER BY WORDS
ממיין את המילים לפי סדר האלף-בית.
Seamless Wikipedia browsing. On steroids.
Every time you click a link to Wikipedia, Wiktionary or Wikiquote in your browser's search results, it will show the modern Wikiwand interface.
Wikiwand extension is a five stars, simple, with minimum permission required to keep your browsing private, safe and transparent.